– Jo mer data disse maskinlæringsmotorene får tilgang til, jo bedre blir de, og jo lettere er det da etterhvert for andre å utnytte det må en kriminell måte – som kanskje kan gi angrep vi aldri har sett før.
Det sier sikkerhetsarkitekt Pål Aaserudseter i Check Point, som er gjest i dagens podkast.
– Chat-biten er bare en inngangsvinkel til GPT, der er det jo API-et de fleste vil bruke, påpeker han.
Med AI får hackere mye lettere tilgang til sårbarheter. Teknologien kan brukes til å spore opp svakheter som kan utnyttes, og når vi vet hvor lang tid det tar før alle oppdaterer systemene sine, er det lett å se at verden blir et farligere sted.
Det som trengs, er – ikke uventet – AI, mener Aaserudseter. Altså i det godes tjeneste. Vi må lære den å stoppe angrep som kan være ulver i fåreklær. Det vil bli tiltakende vanskelig å skille ut ondsinnet kode fra de vanlige datastrømmene. Fremtidens AI må være smart og mistenksom. Det er vanskelig nok å stoppe slikt i dagens virksomheter, og det er ingen ting som tyder på en massiv opprustning på tross av alle advarslene. Mennesker er det svake leddet og trenger hjelp.
Aaserudseter etterlyser reguleringer og fastslår at alt nå er opp til utviklernes etiske kompass.
– ChatGPT i dag er som et knappenålshode, sier han. – Neste release kan sammenlignes med størrelsen på en tennisball.
