Responsible AI Officer - dé expert op het gebied van AI

Programma

Responsible AI Officer – lesprogramma

DAG I
OCHTEND
Responsible AI - wat, waarom en hoe?

• Wat houdt responsible AI wel en niet in? Waarom is responsible AI essentieel voor organisaties en de maatschappij?
• Actuele thema's binnen responsible AI
• De belangrijkste trends en uitdagingen binnen responsible AI, zoals bias, transparantie, data privacy en ethische AI-toepassingen
• Bestaande raamwerken en richtlijnen
• (Inter)nationale raamwerken, waarop de EU AI Act, ISO standaarden en ethische richtlijnen leunen
• Criteria voor een verantwoorde AI-inrichting
• Randvoorwaarden om AI ethisch, transparant en effectief in te richten binnen uw organisatie
• Voor welke AI- en datasystemen is responsible AI relevant?
• Begrijpen welke AI- en datacomponenten extra aandacht verdienen, zoals algoritmes voor besluitvorming, voorspellende modellen, chatbots en onderliggende data
• Kunnen uitleggen van de meerwaarde en noodzaak van responsible AI
• Wanneer en waarom speelt responsible AI een cruciale rol, zowel vanuit een ethisch als zakelijk perspectief?

MIDDAG
AI en data

• AI en data governance: wat heeft AI met data governance te maken? Doelstellingen en principes en waarom deze essentieel zijn voor uw organisatie
• De relatie en verschillen tussen AI en data governance: waar overlappen AI en data governance elkaar en waar vereisen ze juist aparte benaderingen?
• De (belangrijkste) verantwoordelijkheden binnen AI en data: kritische verantwoordelijkheden, zoals compliance, transparantie en ethiek
• Risicobeheer en compliance opzetten: herkennen, kwantificeren en beheren van AI- en datarisico's, incl. beheersmaatregelen
• Kwaliteitsmanagement inrichten: via standaarden en toetsen AI- en datakwaliteit beoordelen, bewaken en verbeteren
• Bepalen van risicomaatregelen: inzicht in het ontwikkelen en implementeren van maatregelen voor risicobeheersing en compliance
• Weten welke normeringen en certificeringen er zijn: hoe kunnen kwaliteitsstandaarden toegepast worden binnen uw organisatie?
• Opzetten van cybersecurity- en stresstesten: hoe moet u AI-systemen testen op robuustheid, veiligheid en betrouwbaarheid?

DAG II
OCHTEND
Functionele mogelijkheden van data en AI

• Herkennen van en onderscheid kunnen maken tussen verschillende typen en toepassingen van AI, zoals Machine Learning (ML), Deep Learning (DL) en generatieve AI
• De relatie tussen AI en data begrijpen: inzichten uit data interpreteren, datakwaliteit beoordelen, afwijkingen signaleren en data verantwoord en effectief beheren
• De impact van generatieve AI: inzicht in hoe generatieve AI (zoals bv. ChatGPT en DALL-E) kan worden ingezet in uw organisatie en wat de voor- en nadelen zijn
• De eerste afwegingen maken voor AI-gebruik: u leert welke AI-technieken nuttig zijn voor specifieke toepassingen
• Inzicht in de relevantie van AI voor uw organisatie: beoordelen welke AI-technologieën binnen uw organisatie in scope zijn, worden gebruikt en welke niet

MIDDAG
Data en AI benutten

• AI-toepassingen identificeren binnen uw eigen organisatie en strategische kansen en risico's benoemen
• Voor- en nadelen van AI-systemen afwegen: de functionele implicaties van AI beoordelen
• Prioriteren van AI-projecten op basis van impact: AI-projecten beoordelen op haalbaarheid en toegevoegde waarde binnen uw organisatie en strategische keuzes onderbouwen
• AI-componenten plannen en ontwerpen: hoe kunt u een AI-component definiëren, business requirements vaststellen, use cases selecteren en de impact ervan analyseren?
• AI-componenten testen en valideren: modellen testen op nauwkeurigheid, bias detecteren en validatietechnieken toepassen
• AI-componenten testen, valideren en onderhouden: modellen testen op nauwkeurigheid en bias en updates relevant en effectief houden

DAG III
OCHTEND
Responsible by Design

• Responsible by Design: verankeren van verantwoordelijkheid en compliance in elke fase van het AI-proces
• Responsible by Design als uitgangspunt: waarom is dit belangrijk en welke rol spelen componenten als wettig, ethisch, betrouwbaar en duurzaam hierbij?
• Smart from the start/een integrale en gefaseerde aanpak: aan het begin van een project inventariseren welke vragen gedurende het project aan de orde moeten komen en deze over de verschillende projectfasen verdelen. Zo zijn alle requirements vanaf het begin in beeld, zonder dat alle vragen direct hoeven te worden beantwoord.
• Werken in meerdere sporen/expertisegebieden: de verschillende sporen die bij Responsible by Design een rol spelen vanaf de start bij een project betrekken, zodat vanaf het begin alle benodigde kennis aan boord is.
• Integrale assessments: assessments op verschillende sporen combineren waardoor zowel risico's als maatregelen altijd in samenhang met elkaar worden beoordeeld en de betrokken medewerkers niet van het ene in het andere assessment rollen.

MIDDAG
Compliance en wetgeving

• Nationale en EU-wetgeving rondom AI en data: hoe AI en data binnen het Europese regelgevingskader worden behandeld en welke rol toezichthouders spelen
• De belangrijkste wetten op het gebied van AI en data:
  • AI Act: verplichtingen voor AI-systemen, risicogebaseerde regulering en verboden toepassingen
  • AVG: basisprincipes van gegevensbescherming en de impact op AI-systemen die persoonsgegevens verwerken
  • DSA (Digital Services Act): verplichtingen voor online platforms en AI-gestuurde content moderatie
  • DMA (Digital Markets Act): regels voor grote technologiebedrijven die AI en data op grote schaal verwerken
  • DGA (Data Governance Act): richtlijnen voor het delen van data tussen bedrijven, overheden en publieke instanties
  • Data Act: regels rondom toegang en hergebruik van industriële data en IoT-gegevens in AI-modellen
• Samenhang tussen de wetten: hoe zorgen deze wetten gezamenlijk voor een verantwoord gebruik van AI en data, incl. de interactie tussen privacy, transparantie, ethiek en innovatie?
• Praktische toepassing en interactieve sessies: u gaat actief aan de slag!
  • Workshop: Welke wetten gelden voor uw AI-toepassing?
    Op basis van een AI- of datagerelateerd project uit uw eigen praktijk bepaalt u welke wetgeving relevant is
  • Case: AI Act in de praktijk
    Hoe past u risicocategorieën toe op AI-modellen? U classificeert een aantal AI-systemen en bespreekt mogelijke complianceverplichtingen

DAG IV
OCHTEND
AI-ethiek

• AI-ethiek uitleggen en toepassen: wat is ethiek? Wat zijn de ethische risico's van AI? Reflecteren en besluiten over de ethische risico's en kansen van AI-toepassingen met behulp van ethische gereedschappen
• Kritisch nadenken over AI en data: samenhang AI en de samenleving, reflecteren en besluiten over wanneer AI de juiste oplossing is en wanneer niet
• Bewustwording van bias in AI: hoe ontstaat vooringenomenheid in data, algoritmes en AI-systemen en hoe moet u hiermee omgaan?
• Toepassen van een risicogebaseerde aanpak van de ethische risico's van AI: omgaan met de effecten van AI op belanghebbenden en publieke waarden op basis van de ethische pijlers van uw organisatie
• Het belang van explainable AI: leer hoe transparantie en uitlegbaarheid bijdragen aan het ethische gebruik van AI
• Duurzaam AI-gebruik vormgeven: de impact van AI op klimaatverandering en hoe integreert u dit in de ecologische voetafdruk van de data-organisatie
• Het belang van stakeholderinclusie voor AI-ontwikkeling en AI-toepassing: hoe kunt u belanghebbenden in de verschillende fasen van AI-ontwikkeling betrekken t.b.v. een breed gedragen ethisch AI-gebruik?

MIDDAG
AI-geletterdheid en praktijkcases

• Vanaf 2 februari 2025 moeten organisaties die AI gebruiken voldoen aan de eis van AI-geletterdheid uit de AI Act. Hoe zorgt u ervoor dat medewerkers niet alleen de regels kennen, maar AI ook écht verantwoord/responsible toepassen?
• De organisatie AI-geletterd maken: hoe kan uw organisatie stapsgewijs AI beter begrijpen en gebruiken?
• Toepasbaarheid van responsible AI: u leert hoe u verantwoord AI kunt implementeren en risico's kunt inschatten (ook zonder diepgaande juridische kennis)
• Het belang van AI-ethische volwassenheid: AI-ethiek implementeren in uw organisatie en bewustwording creëren bij medewerkers
• Een passend besturingsmodel voor AI-governance: u krijgt inzicht in welke governance- en compliance-aanpak het beste past bij uw organisatie en sector
• AI en regelgeving binnen de publieke sector: u ontdekt hoe de Digitale Overheid - waaronder gemeentes - omgaat met AI, regelgeving en ethische vraagstukken
• Responsible AI in verschillende organisaties/publieke vs. de commerciële sector: u gaat vergelijken hoe AI wordt ingezet in gemeentes en grote commerciële organisaties en u leert welke strategieën het meest effectief zijn
• Uw eigen AI-strategie ontwikkelen aan de hand van praktijkvoorbeelden:
  U past de geleerde inzichten toe binnen uw eigen werkomgeving en u formuleert een eerste aanpak om responsible AI in uw organisatie te implementeren

Docent(en)

Het programma van de training Responsible AI Officer is tot stand gekomen in samenwerking met Highberg. Highberg is een toonaangevend adviesbureau, gespecialiseerd in digitale, organisatorische en sustainability transformaties. De expert-consultants van Highberg begeleiden organisaties gedurende het hele verandertraject, van strategie en ontwerp tot implementatie. Met expertise in diverse sectoren helpen ze organisaties zich aan te passen aan veranderende marktomstandigheden, digitalisering en duurzaamheidseisen. De focus ligt hierbij op het realiseren van diepgaande en fundamentele transformaties die organisaties toekomstbestendig maken. Leer van de experts van Highberg en pas responsible AI direct toe in de praktijk!

Uw hoofddocent is:

Edward Blom CMC
Edward Blom is associate bij Highberg en is o.m. veranderkundige in Data & Analytics, organisatie-adviseur, intelligence professional en interim manager.

Uw docenten zijn:

Mr. Dorus-Jan ten Boom CISSP CISA FRM CIPP/E CIPM CIPT
Dorus-Jan ten Boom is een ervaren management consultant op het gebied van Digital Law & Ethics bij Highberg en is gespecialiseerd in het vertalen van wettelijke en ethische kaders naar de praktische toepassing ervan. Dorus-Jan kijkt niet alleen naar wat wettelijk moet, maar ook wat wenselijk is. Als ICT-jurist is Dorus-Jan zeer goed thuis in de geldende wetgeving op het gebied van data, privacy en informatiebeveiliging.

Sebastiaan Bouthoorn LLM
Sebastiaan Bouthoorn is senior consultant data, regulering en ethiek bij Highberg. Sebastiaan heeft een juridische achtergrond en is intussen ruim 7 jaar werkzaam op het gebied van recht en ICT. Binnen Highberg werkt hij bij Digital Law & Ethics, een afdeling die zich specialiseert in advisering rondom wet- en regelgeving op het gebied van data en digitalisering, zoals de AI Act. Hij is daarnaast gespecialiseerd in de praktische impact van de AI Act op publieke organisaties.

Thomas Mollema BA MSc
Thomas Mollema is consultant Analytics & AI bij Highberg. Thomas is gespecialiseerd in ethisch AI-gebruik. Het implementeren van AI-ethiek houdt zowel het minimaliseren van de risico's en nadelen van AI-systemen als het benutten van hun potentie in. Thomas is auteur van meerdere publicaties.

Matthijs Schrage
Matthijs Schrage is consultant bij Highberg en heeft jarenlang AI-oplossingen ontwikkeld voor en geïmplementeerd bij diverse organisaties, waarbij hij zich richtte op procesautomatisering en het stimuleren van datagedreven werken.