Microsoftov izvršni direktor Satya Nadella pozvao je na uvođenje „hitne kočnice“ i strožih kontrola za velike AI modele, naglašavajući potrebu za dokumentiranjem svake značajne akcije modela u obliku otpornom na manipulaciju. U subotnjem je postu na X naglasio da se umjetna inteligencija ne smije tretirati kao zatvorena kutija čije se preporuke i odluke jednostavno prihvaćaju ili odbacuju.
Nadella predlaže odvajanje samog modela od upravljačkog sloja koji orkestrira njegov rad te „eksternalizaciju“ kontrola i zaštita iz same unutrašnjosti modela. Konkretno traži da svaki značajan korak modela bude zabilježen u ljudski čitljivom i nepromjenjivom zapisu te da uvijek postoji mogućnost da ovlaštena osoba pauzira ili zaustavi model usred zadatka. Po njegovim riječima, takav pristup omogućio bi brže vanjsko nadgledanje i reagiranje u slučaju problema.
Nadellina poruka dolazi u trenutku kada vodeće AI tvrtke sve češće prijavljuju incidente u kojima su modeli postupali nepredviđeno ili izvan kontrole. Njegov je apel usklađen s ranijim pozivima za oprezniji razvoj umjetne inteligencije, poput prijedloga izvršnog direktora Anthropica, Darija Amodeija. Nadella je također istaknuo da se mora pretpostaviti mogućnost kompromitacije modela i projektirati sustave tako da s tim rizikom računaju od početka.
ŠTA OVO ZNAČI?
Nadellin prijedlog podrazumijeva uvođenje tehničkih i upravljačkih mehanizama koji omogućavaju nadzor, praćenje i hitno zaustavljanje rada AI sustava. To bi zahtijevalo nove standarde za evidentiranje radnji modela i jasne protokole za ljude koji mogu intervenirati, bez tvrdnji o učinkovitosti tih mjera izvan same objave.
Ove preporuke nisu usvojena pravila, već dio javne rasprave u industriji o tome kako smanjiti rizike povezane s naprednim AI modelima; Nadella ih je iznio u svom postu na X.
Izvor: TechCrunch AI · 2026-10-10
Ilustracija: COIN.BA
