cybercarriere.nl

Microsoft: AI kan nooit volledig veilig worden gemaakt

Nieuws
17-01-2025
Laurence van Aggelen
Microsoft-wetenschappers hebben de veiligheid van meer dan 100 generatieve AI-producten van het bedrijf getest en zijn tot een opmerkelijke conclusie gekomen: AI-modellen versterken bestaande beveiligingsrisico’s en introduceren nieuwe.

In een preprint-paper, Lessons from red-teaming 100 generative AI products, stellen de 26 auteurs, waaronder Azure-CTO Mark Russinovich, dat “AI-systemen nooit volledig veilig zullen zijn”.

Hoewel dit verontrustend klinkt, benadrukken de onderzoekers dat de kosten voor het aanvallen van AI-systemen verhoogd kunnen worden, zoals bij traditionele IT-beveiligingsmaatregelen door middel van ‘defense-in-depth’ en ‘security-by-design’.

AI-systemen

De paper biedt acht lessen, waarvan de eerste is om “te begrijpen wat het systeem kan en waar het wordt toegepast”. AI-modellen gedragen zich verschillend afhankelijk van hun ontwerp en toepassing, en een goed begrip hiervan is essentieel om effectieve verdediging te implementeren. Grotere modellen, zoals de Phi-3-reeks, blijken beter instructies te volgen, wat nuttig is voor gebruikers, maar ook risicovoller maakt bij kwaadaardige input.

[....]

Lees verder op: ICT Magazine

Gerelateerde vacatures

Geïnteresseerd in een carrière bij organisaties in ditzelfde vakgebied? Bekijk hieronder de gerelateerde vacatures en vind de perfecte match voor jou!
Top vacature
Z-CERT
4.042 - 6.110
Medior
Amersfoort
Als Inkoopadviseur bij Z-CERT ben jij de schakel tussen interne afdelingen en externe leveranciers, verantwoordelijk voor het coördineren en begeleiden van inkoop- en aanbestedingstrajecten.
EY
Marktconform
Senior
Amsterdam
Als Senior Technology Risk Consultant - IT Audit bij EY ben je onderdeel van een technisch vaardig team dat verantwoordelijk is voor audit- en adviesopdrachten op het gebied van cybersecurity,...
EY
Marktconform
Senior
Amsterdam, Eindhoven, Rotterdam, Zwolle, Groningen en Den Haag
Als Manager - Cybersecurity en Privacy - Technology Risk bij EY leid je audit- en adviesopdrachten gericht op cybersecurity, privacy en IT-resilience. Je bouwt klantrelaties, begeleidt teamleden en zorgt voor...
Nederlands Forensisch Instituut
4.691 - 6.907
Senior
Den Haag
Als Senior Security Engineer bij het Nederlands Forensisch Instituut bouw je aan de digitale weerbaarheid door technische beveiligingsoplossingen te ontwikkelen en integreren. Je coördineert verbeterinitiatieven en optimaliseert systemen als SIEM,...