5 vragen over Privacy & AI in focus aan Aniek Hos - Philips

15/10/2024 - In een wereld waar Artificiële Intelligentie (AI) steeds meer verweven raakt met ons dagelijks leven, is het belang van privacy en ethiek groter dan ooit. Dit jaar staat het thema Privacy & AI in focus centraal tijdens de jaarlijkse conferentie van Considerati. De conferentie biedt een uniek platform om de implicaties van de aankomende AI Act te verkennen, en belicht zowel de nieuwste innovaties als de uitdagingen op het gebied van gegevensbescherming. Naast de juridische en technologische ontwikkelingen, ligt de nadruk ook op de ethische toepassing van opkomende technologieën. Hoe kunnen organisaties zich voorbereiden op deze veranderingen? En wat betekent dit voor de bescherming van persoonlijke data? In aanloop naar de conferentie stelden we een aantal vragen aan panellid Aniek Hos, Head of Legal Cluster Diagnosis and Treatment bij Philips.  

1. Welke ontwikkelingen met gebruik van nieuwe technologieën ziet u terug binnen de organisatie?  

“Ik denk dat we de afgelopen jaren hebben gezien dat de gezondheidszorg onder enorme druk staat. De vraag naar zorg blijft toenemen, mede door de vergrijzing en de toename van chronische ziekten. Dit legt een grote last op zorginstellingen, zoals ziekenhuizen, die vaak te maken hebben met personeelstekorten. Tegelijkertijd zorgen de stijgende kosten van gezondheidszorg voor druk binnen zorgorganisaties om efficiënter te werken. AI-oplossingen kunnen hierin een belangrijke rol spelen. Ze kunnen bijvoorbeeld zorgverleners ondersteunen in hun besluitvorming, helpen bij het verbeteren van de operationele efficiëntie binnen zorginstellingen of mensen in staat stellen een betere grip te krijgen op hun gezondheid en welzijn. Een goed voorbeeld hiervan is het gebruik van AI in beeldverwerkingssoftware of positioneringssoftware om medische procedures te verbeteren. Dit zijn vaak de eerste mogelijkheden waar bedrijven die medische producten ontwikkelen op inspelen.” 

 2. Met welke uitdagingen hebben we op juridisch gebied te maken als het gaat om de implementatie van deze nieuwe technologieën?  

 “Vanuit mijn persoonlijke optiek zien we momenteel een toename van wetsgevingsvoorstellen wereldwijd op diverse terreinen, zoals AI, maar ook op het gebied van cybersecurity en datawetgeving. Al deze regelgevingen hebben hun eigen tijdslijnen en eisen waaraan voldaan moet worden, en dat kan een behoorlijke druk leggen op organisaties. Het maakt het soms ingewikkeld om het ontwikkelingsproces zonder vertraging te doorlopen.” 

3. Hoe kijkt u naar de artificiële intelligentie (AI) regulering (AI-verordening) en de gevolgen hiervan voor organisaties?  

“Zelf denk ik dat het veelvoud van wetgeving kan leiden tot fragmentatie. De regelgeving is niet altijd sectorspecifiek en kan soms conflicteren met sectorspecifieke wetgeving, zoals in mijn geval, waar het gaat om medische producten. Er zijn bijvoorbeeld afwijkende definities terug te vinden in de diverse wetgevingsvoorstellen of overlappende verplichtingen. Dit maakt het voor bedrijven soms een hele uitdaging om duidelijkheid te krijgen over wat er precies van hen verwacht wordt. Het kan best een puzzel zijn om alle verplichtingen eigen te maken.”  

4. Welke disciplines zijn nodig binnen een organisatie om AI op een verantwoorde manier toe te passen?   

“Om AI op een verantwoorde manier toe te passen, denk ik dat samenwerking tussen verschillende disciplines essentieel is. Elk van deze disciplines brengt zijn eigen expertise en invalshoek mee. Je kunt hierbij denken aan technische afdelingen zoals R&D, Product Marketing, en Data/AI-teams, gecombineerd met meer generieke expertises zoals Quality, Regulatory, Legal en Privacy.” 

  5. Hoe ziet de toekomst van privacybescherming eruit in een wereld waar AI steeds vaker wordt ingezet?   

“Idealiter zouden beide takken in harmonie naast elkaar moeten bestaan. We zien dat AI- regelgeving gelijkenissen vertoond met bestaande (privacy)regelgeving, zoals het concept van privacy by design en de AI-principes van de OESO uit 2019. Privacy en AI kunnen in mijn ogen hand in hand gaan, en de huidige regelgeving biedt daartoe al grotendeels de relevante waarborgen. Door steeds te anticiperen op mogelijke privacy gevolgen van AI gedurende de ontwikkeling van producten of diensten, en de risico’s waar mogelijk te beperken, kunnen we optimaal profiteren van AI-technologie terwijl we tegelijkertijd een hoog niveau van privacybescherming behouden.”