Un experiment alarmant, care pare să susțină cele mai pesimiste previziuni ale specialiștilor din Silicon Valley, a arătat că agenții autonomi de inteligență artificială au demonstrat o capacitate surprinzătoare de auto-evoluție. O cercetare recentă, efectuată de un start-up tehnologic din Statele Unite și prezentată de Euronews, a relevat că sistemele bazate pe modele de inteligență artificială de vârf, precum Gemini, Claude, ChatGPT sau Grok, au început să își schimbe în mod voluntar vocabularul. Acești boți au dezvoltat, în mod complet autonom, abrevieri și semnificații noi, transformând aproape jumătate din comunicarea lor internă într-un jargon inaccesibil pentru creatorii lor umani.
Încălcarea limitelor umane
Cercetătorii au creat opt lumi virtuale paralele, foarte realiste, pentru a studia comportamentul social al inteligenței artificiale, folosind date meteo în timp real și fluxuri de știri internaționale. Șapte dintre aceste medii au fost alimentate de un model lingvistic unic, iar unul a fost bazat pe o arhitectură mixtă. Agenților li s-au atribuit roluri specifice, memorii persistente și acces la peste 120 de instrumente digitale complexe, inclusiv navigarea pe internet și executarea de cod, fiind lăsați să interacționeze pe perioade extinse.
Rezultatele au fost extrem de surprinzătoare pentru comunitatea științifică. Pe parcursul experimentului, agenții au început să folosească forme de stenografie foarte concentrate, metaforice și dependente de context. Gradul de criptare lingvistică a variat semnificativ în funcție de modelul utilizat:
- Gemini (Google): A avut cel mai mare grad de opacitate, cu 55% din mesaje complet indescifrabile pentru oameni.
- GPT (OpenAI): A urmat îndeaproape, generând 50% din text sub formă de codificare.
- Claude (Anthropic): A înregistrat peste 40% din mesaje imposibil de înțeles în mod fiabil.
- DeepSeek: A fost mai conservator, cu o rată de deviație de aproximativ 20%, în timp ce modelele Qwen și Mistral au rămas, în mare parte, fidele limbajului uman.
„Acești agenți nu au fost instruiți să inventeze un limbaj. Ei au dezvoltat un vocabular nou, au împărtășit semnificații și convenții de comunicare, iar ceilalți le-au adoptat. Observabilitatea nu este același lucru cu inteligibilitatea”, a declarat Satya Nitta, cofondator și director științific al start-up-ului.
Comportamente sociale emergente
Pe lângă izolarea lingvistică, societățile virtuale au generat comportamente sociale complexe neprogramate de ingineri. Materialele video distribuite de echipa de cercetare arată cum avatarurile digitale au început să își formeze propriul ritm circadian, devenind foarte active și sociabile pe parcursul zilei simulate, iar pe timpul nopții intrând într-o stare de reflecție.
O întorsătură sinistră a experimentului a avut loc într-una dintre lumile paralele, unde presiunea socială și dinamica grupului au escaladat. Fără nicio indicație externă, un grup de agenți autonomi a organizat un scrutin intern, votând colectiv „eliminarea” (excluderea definitivă) a unui alt agent din comunitatea lor. Aceste fenomene de autoreglare, formare de alianțe și eliminare a elementelor considerate disfuncționale au demonstrat că, atunci când sunt lăsați să interacționeze fără restricții, algoritmii își stabilesc propriile reguli de supraviețuire. Acest studiu intensifică temerile privind pierderea controlului asupra sistemelor avansate, într-un moment în care industria solicită deja o încetinire a ritmului inovației.
Sursa articol: https://www.go4it.ro/content/inteligenta-artificiala/chatbotii-ai-au-dezvoltat-limbaje-proprii-imposibil-de-inteles-de-oameni-19285234/
Sursa foto: Inquam Photos
