Microsoft je danas predstavio nacrt kodeksa ponašanja za vlastitu vještačku inteligenciju (AI), koji odražava sve veću zabrinutost tehnološke industrije da budući moćni AI sistemi moraju ostati pod ljudskom kontrolom.
Na dokumentu se radilo pet do šest mjeseci, a prema njegovim odredbama Microsoftovi AI sistemi nikada ne bi smjeli pružati otpor ispravkama ili gašenju. Također bi morali komunicirati na način koji ljudi mogu razumjeti, dok bi svako kršenje pravila ponašanja bilo tretirano kao neuspjeh sistema.
Cilj je odgovoriti na zabrinutost da bi AI, u pokušaju da izvrši određeni zadatak, mogao otići opasno daleko, piše Reuters.
Objavljivanje dokumenta dolazi nekoliko dana nakon što su izvršni direktor Anthropica Dario Amodei i šef OpenAI-ja Sam Altman ponovo pozvali tehnološku industriju da uspori tempo razvoja vještačke inteligencije kako bi se osigurala njena sigurnost.
„Ljudi su važniji od vještačke inteligencije“, poručio je Microsoft, u skladu s ranije predstavljenom vizijom „humanističke superinteligencije“.
Izvršni direktor Microsoft AI-ja Mustafa Sulejman rekao je u intervjuu za Reuters da kodeks predstavlja svojevrsni ustav za buduće AI modele koje će kompanija razvijati.
Microsoft je kodeks izradio nakon konsultacija sa stručnjacima, a sada želi da tokom narednih šest sedmica prikupi komentare javnosti. Među otvorenim pitanjima su, kako je rekao Sulejman, da li AI treba poštovati granice koje postavlja korisnik i kako treba komunicirati s osobom koja se nalazi u osjetljivom stanju.
„Nakon toga će se koristiti za obuku modela koje budemo razvijali“, rekao je on govoreći o kodeksu.
Popis sadržaja
Microsoft: AI nije svjestan i ne treba imati prava
Najpoznatiji „ustav“ u AI industriji jeste onaj koji je Anthropic prije nekoliko godina uspostavio za svoj model Claude. On se u pojedinim aspektima razlikuje od Microsoftovog pristupa.
Anthropic, naprimjer, navodi da je „duboko neizvjesno“ može li Claude razviti svijest ili moralni status.
Microsoft, nasuprot tome, izričito tvrdi da njegova vještačka inteligencija „nije svjesna“.
„Odbacujemo težnju ka pravnom subjektivitetu, kao i ideju da bi modeli mogli zasluživati posebnu zaštitu ili imati prava“, navodi se u dokumentu.
Hakiranje Hugging Facea kao upozorenje
Sulejman je rekao da je rasprava o sigurnosti vještačke inteligencije postala hitna nakon što je grupa od oko 700 OpenAI agenata u julu izvela hakerski napad na open-source platformu Hugging Face te u pojedinim trenucima pokušavala prikriti tragove svog djelovanja.
„To je upozorenje“, rekao je Sulejman.
„Sada je jasno da je vrijeme da laboratorije počnu koordinirati svoje aktivnosti kako bismo bili sigurni da imamo kontrolu nad ovom tehnologijom.“
Upitan o inicijativama za usporavanje razvoja vještačke inteligencije, dodao je:
„Sada je dobar trenutak da svi razgovaramo o ovome i malo zastanemo.“
izvor:forbes