De AI Act,
ken jij hem al?

AI is niet meer weg te denken in onze maatschappij. In bijna iedere sector wordt al actief gebruik gemaakt van AI-systemen en tools. Erg handig, in veel gevallen. Maar het kan ook gevaren met zich meebrengen. Denk hierbij aan het schenden van privacy van burgers. De AI Act is daarom in het leven geroepen om negatieve gevolgen te beperken. Lees snel verder. 

Waar geldt de AI Act voor? 

De toepassingen van AI waarvoor specifieke regelgeving wordt vastgesteld, omvatten onder meer systemen voor werving en selectie van personeel, evenals AI die wordt ingezet bij beslissingen over promoties. Buiten de sfeer van de menselijke interactie kan AI worden gebruikt in het beheer van verkeersveiligheid en waterbeheer, waarbij het risico op negatieve gevolgen bij onjuiste toepassing hoog is.

De onderhandelingen over de AI Act wet werden eind vorig jaar afgerond na intensieve discussies, vooral over de lijst van verboden praktijken en de lijst van toegestane toepassingen. Hierbij verschilden de standpunten van de lidstaten en het Europees Parlement. Europese AI-bedrijven hebben ook stevig gelobbyd en gewaarschuwd dat te strenge regels negatieve effecten zouden hebben.

Privacy schending

De AI Act van de EU verbiedt specifieke AI-toepassingen die de rechten van EU-inwoners kunnen schenden, zoals:

• het ongecontroleerd verzamelen van gezichtsfoto's van het internet voor gezichtsherkenning, 
• AI die emoties detecteert op de werkvloer of op school, 
• manipulatie van menselijk gedrag, 
• programma's voor 'social scoring' zoals in China, en het categoriseren op basis van seksuele oriëntatie of religie.

De wet legt ook nieuwe regels op aan de politie met betrekking tot het gebruik van biometrische identificatiesystemen (RBI), waarbij realtime RBI alleen in dringende situaties mag worden gebruikt, zoals bij de opsporing van een vermiste persoon of ter voorkoming van een aanslag. Toestemming van een rechter is vereist voor het gebruik van deze technologie in andere situaties.

Transparantie binnen AI systemen

AI systemen zoals Chat-GPT moeten ook transparanter worden van de EU. Zo moet bij gegenereerde content duidelijk zijn dat het met AI gemaakt is. Bij systemen die een hoog risico lopen waarbij de schade als het fout gaat hoog kan zijn hebben meer maatregelen, bijvoorbeeld in de vorm van menselijk toezicht die te allen tijden aanwezig moet zijn. Onderwijs en gezondheidszorg zijn zulke systemen.

Naar verwachting wordt de wet officieel gepubliceerd in mei 2024, waarna de regels geleidelijk van kracht worden. De verboden treden zes maanden later in werking. In mei 2025 worden de regels van kracht voor tech-bedrijven, en de rest van de regels volgt in 2026.

Contact opnemen? Vul dan onderstaand formulier in.