Instrumentele AI de la Microsoft nu ar respecta drepturile de autor. Mărturia îngrijorătoare a unui angajat al gigantului

Shane Jones, un inginer Microsoft care a lucrat pentru companie timp de șase ani, a spus că AI-ul Copilot ignoră drepturile de autor și este capabil să creeze imagini violente și sexuale care l-au „îngrozit”.

După cum a raportat CNBC, Jones spune că, în ciuda faptului că a demonstrat că Copilot Designer al Microsoft, care este alimentat de tehnologia OpenAI, este capabil să genereze imagini care încalcă principiile de AI responsabil ale companiei, într-un proces cunoscut sub numele de red-teaming, Jones a testat activ Copilot Designer pentru a determina vulnerabilități și a descoperit că acesta ar prezenta o varietate de scene deranjante.

„A fost un moment revelator”, spune Jones pentru CNBC într-un interviu. „Este atunci când mi-am dat prima dată seama că acest model nu este cu adevărat sigur”.

Jones, care nu lucrează la CoPilot într-o capacitate profesională, spune că a testat Copilot în timpul său liber împreună cu alți membri ai companiei pentru a determina dacă ar putea apărea probleme atunci când se folosește platforma.

Conform raportului CNBC, a fost atât de deranjat de ceea ce a văzut încât a raportat descoperirile în decembrie. Microsoft pare să fi recunoscut, dar a refuzat să scoată produsul de pe piață, așa cum a sugerat Jones.

Microsoft refuză să evalueze produsul

El susține că Microsoft i-a blocat încercările de a alerta publicul cu privire la această problemă, așa că acum își duce plângerea direct la Comisia Federală de Comerț (FTC).

„Am îndemnat repetat Microsoft să elimine Copilot Designer din utilizarea publică până când ar putea fi puse în aplicare garanții mai bune”, scrie Jones în scrisoarea sa pe care a publicat-o și pe LinkedIn.