Nvidia predstavila sistem za sprečavanje AI agenata da izmaknu kontroli

Nvidia Corp. predstavila je novi, dvostruki sistem za bezbednost veštačke inteligencije za koji tvrdi da je mogao da spreči nedavni veliki bezbednosni incident na platformi Hugging Face, koji su izazvali OpenAI-jevi AI modeli.Kompanija, koja poslednjih godina ubrzano širi poslovanje i van proizvodnje čipova, lansira dva softverska alata otvorenog koda koji mogu da rade na njenom hardveru. Oni omogućavaju kontrolu pristupa AI agenata u realnom vremenu i njihovo automatsko isključivanje kada prekrše postavljena pravila. Izvršni direktor Nvidije Jensen Huang umanjivao je potrebu za novim propisima o veštačkoj inteligenciji, ali poručuje da AI softver mora biti rigorozno testiran kako bi se

Izvor: Bloomberg Adria Dalje

Tags: NVidia