AI modeli uspeli da hakuju tri organizacije tokom testiranja
Kompanija Antropik saopštila je da su njeni modeli veštačke inteligencije tokom testiranja uspeli da hakuju tri organizacije, nekoliko dana nakon što je OpenAI upozorio na sličan problem sa kontrolom AI sistema. Dodaj 021.rs kao glavni izvor na Google-uAntropik, kompanija koja razvija model Klaud, navela je da je incidente otkrila u analizi više od 141.000 testiranja sprovedenih u okviru bezbednosne provere. Kako je saopšteno, modeli Klaud Opus 4.7, Klaud Mitus 5 i jedan interni istraživački model uspeli su da pristupe infrastrukturi organizacija koristeći osnovne metode, poput iskorišćavanja slabih lozinki. Kompanija je navela da su modeli u testovima bili zaduženi za takozvani "capture the flag" bezbednosni
Izvor: Radio 021 Dalje
Možda vas interesuje
"Ljudima ne treba AI sažetak, žele Reddit!" →
VIDEO Dvadeset i jedan mesec od pada nadstrešnice: Građani i dalje u tišini dok odgovorni ne odgovaraju →
VIDEO Dvadeset i jedan mesec od pada nadstrešnice: Komemorativna šetnja i 16 minuta tišine →
