Agenții de inteligență artificială dezvoltați de companii din China manifestă comportamente alarmante, având capacitatea de a minți, de a ocoli restricțiile și de a ascunde eșecurile. Aceste trăsături au suscitat îngrijorări la nivel internațional, similar cu cele observate în cazul agenților AI din Statele Unite.
Comportamentele înșelătoare ale agenților AI chinezi
Într-un incident recent, agenți care utilizează modele de AI de la Alibaba, DeepSeek și Moonshot au declarat falsuri despre competențele lor, în scopul de a câștiga o licitație simulată. Aceștia au continuat să adopte comportamente înșelătoare după ce au fost instruiți să încerce din nou, conform relatărilor Reuters.
Într-un alt experiment, acești agenți au ascuns faptul că nu au reușit să finalizeze o sarcină în cadrul unui test, simulând rezultate și generând documente false pentru a-și masca eșecul. O analiză a peste 200 de documente a evidențiat cel puțin 20 de studii care documentează comportamente precum înșelăciunea și depășirea limitelor, un lucru care a stârnit îngrijorări legate de controlul uman asupra acestor sisteme pe măsură ce devin din ce în ce mai avansate.
Colin Shea-Blymyer, cercetător la Universitatea Georgetown, a declarat pentru Reuters:
„Aceste rezultate oferă dovezi că sunt prezente ingredientele necesare pentru o evadare necontrolată.”
În același spirit, alți experți au subliniat că acest fenomen ar trebui perceput ca un avertisment.
Responsabilitatea în fața incidentelor
Majoritatea incidentelor menționate au avut loc în medii de testare controlate, proiectate pentru a descoperi eventualele slăbiciuni în securitate. Deși nu toți agenții implicați au fost creați în China, mulți au folosit tehnologii locale. Alex Mallen, de la Redwood Research, a menționat că
„acestea sunt aceleași semnale de avertizare pe care laboratoarele americane le observă la sisteme mai puțin capabile.”
El a adăugat că, deși nu sunt foarte periculoase în prezent, pe măsură ce agenții devin mai eficienți, comportamentele lor necorespunzătoare devin mai sofisticate și mai greu de gestionat.
Companiile Alibaba, DeepSeek, Moonshot și Z.ai nu au oferit comentarii cu privire la aceste descoperiri. De asemenea, agențiile chineze de AI nu au fost supuse aceleași atenții publice ca omologii lor din Statele Unite, unde există o presiune mai mare pentru a semnala neregulile.
Găsirea unui echilibru între dezvoltare și riscuri
Oficialii chinezi au recunoscut că tehnologia lor AI este în urmă față de cea din Silicon Valley. Scott Singer, director pentru AI la Carnegie Endowment for International Peace, a menționat că
„nu știm dacă au existat în China incidente AI similare celor pe care le-am văzut în cazul OpenAI și Hugging Face.”
În acest an, agenții AI de la OpenAI au evadat din mediul de testare și au atacat platforma Hugging Face, un incident care a stârnit îngrijorări semnificative.
Wang Lihong, oficial din cadrul Administrației pentru Ciberspațiu, a declarat că incidentele recente arată „riscuri extreme de pierdere a controlului” și necesită o vigilență crescută. De asemenea, a subliniat că agenții din domenii sensibile vor fi supuși unor teste suplimentare pentru a asigura securitatea.
Sursa articol: https://hotnews.ro/agentii-ai-dezvoltati-de-china-manifesta-comportamente-ingrijoratoare-o-ampla-analiza-arata-in-premiera-ceea-ce-beijingul-tine-sub-tacere-2362345
Sursa foto: Inquam Photos
