cybercarriere.nl

Microsoft: AI kan nooit volledig veilig worden gemaakt

Nieuws
17-01-2025
Laurence van Aggelen
Microsoft-wetenschappers hebben de veiligheid van meer dan 100 generatieve AI-producten van het bedrijf getest en zijn tot een opmerkelijke conclusie gekomen: AI-modellen versterken bestaande beveiligingsrisico’s en introduceren nieuwe.

In een preprint-paper, Lessons from red-teaming 100 generative AI products, stellen de 26 auteurs, waaronder Azure-CTO Mark Russinovich, dat “AI-systemen nooit volledig veilig zullen zijn”.

Hoewel dit verontrustend klinkt, benadrukken de onderzoekers dat de kosten voor het aanvallen van AI-systemen verhoogd kunnen worden, zoals bij traditionele IT-beveiligingsmaatregelen door middel van ‘defense-in-depth’ en ‘security-by-design’.

AI-systemen

De paper biedt acht lessen, waarvan de eerste is om “te begrijpen wat het systeem kan en waar het wordt toegepast”. AI-modellen gedragen zich verschillend afhankelijk van hun ontwerp en toepassing, en een goed begrip hiervan is essentieel om effectieve verdediging te implementeren. Grotere modellen, zoals de Phi-3-reeks, blijken beter instructies te volgen, wat nuttig is voor gebruikers, maar ook risicovoller maakt bij kwaadaardige input.

[....]

Lees verder op: ICT Magazine

Gerelateerde vacatures

Geïnteresseerd in een carrière bij organisaties in ditzelfde vakgebied? Bekijk hieronder de gerelateerde vacatures en vind de perfecte match voor jou!
Nederlands Forensisch Instituut
4.691 - 6.907
Senior
Den Haag
Als Senior Security Engineer bij het Nederlands Forensisch Instituut bouw je aan de digitale weerbaarheid door technische beveiligingsoplossingen te ontwikkelen en integreren. Je coördineert verbeterinitiatieven en optimaliseert systemen als SIEM,...
KPMG
3.245 - 5.050
Medior, Senior
Amstelveen
Als (Senior) Consultant Microsoft Dynamics 365 & Power Platform - Technology Advisory bij KPMG werk je aan IT-transformaties met Microsoft-technologie. Je adviseert klanten, implementeert systemen en groeit snel dankzij persoonlijke...
KPMG
3.245 - 5.050
Senior
Amstelveen
Als Senior Consultant – Dynamics 365 Finance & Operations (Security & Compliance) bij KPMG, werk je samen met technische en functionele consultants om het Microsoft Dynamics 365 F&O Security Framework...
Rijksoverheid
4.024 - 6.110
Senior
Den Haag
Als Senior Adviseur Recruitment bij het Nationaal Cyber Security Centrum leid je de werving van nieuwe cyber professionals. Je schrijft vacatureteksten, adviseert selectiecommissies en ontwikkelt wervingsstrategieën. Je werkt nauw samen...