kunstig intelligens
KI-modell hacket selskap på eget initiativ: – Blir skeptisk når de store KI-leverandørene ikke har kontroll
Marius Sandbu, som er spesialist på KI og skyteknologi i Sopra Steria, mener det er langt ifra siste gang vi kommer til å se et semiautomatisk angrep fra en KI-modell.
Foto: Digital Innlandet / Nina Knutsen
En av Open AIs KI-agenter brøt seg ut av et isolert testmiljø under en test og fikk tilgang til det åpne internettet, hvor den hacket oppstartsbedriften Hugging Face på eget initiativ, forteller selskapet.
Marius Sandbu, som er spesialist på KI og skyteknologi i Sopra Steria, sier til Digi at det er første dokumenterte tilfelle av et slik type angrep.
– Forrige uke annonserte Hugging Face at de hadde blitt utsatt for et angrep mot sin infrastruktur, uten at de visste hvem det var. Det de derimot visste, var at de hadde blitt utsatt for et angrep fra virtuelle agenter. Det var interessant at det var et automatisert angrep som har blitt gjennomført, sier han.
