OpenAI a anunțat la sfârșitul acestei săptămâni măsuri drastice menite să reducă violența și să protejeze utilizatorii minori pe platforma ChatGPT. Aceste modificări vizează îmbunătățirea securității, restricționând accesul la informații sensibile legate de arme, chiar și în situații în care întrebările par inofensive. Acest demers vine ca răspuns la presiunea tot mai mare din partea autorităților de reglementare care solicită companiilor de inteligență artificială să își asume responsabilități mai mari în prevenirea vătămării tinerilor.
Restricții severe pentru utilizatorii minori
Conform informațiilor furnizate de agenția Reuters, OpenAI va implementa protocoale care interzic accesul la detalii despre arme de foc, muniție și sisteme de securitate ce ar putea fi utilizate în mod abuziv. Această restricție se va aplica automat conturilor minorilor, fără a lua în considerare contextul întrebărilor adresate. De asemenea, algoritmul ChatGPT a fost adaptat pentru a detecta comportamentele legate de violență, având capacitatea de a încheia conversațiile dacă utilizatorul manifestă o obsesie pentru subiecte agresive. În cazul unor comportamente recurente, contul utilizatorului va fi suspendat temporar.
OpenAI a îmbunătățit sistemele de estimare a vârstei pentru a redirecționa mai eficient utilizatorii sub 18 ani către versiunea securizată a platformei. Compania a anunțat că va implementa un sistem prin care părinții vor fi informați direct dacă contul adolescentului este suspendat din cauza discuțiilor despre violență. De asemenea, restricțiile vor fi aplicate global, limitând accesul la informații despre atacuri armate în masă, astfel încât să se evite furnizarea de ghiduri logistice potențiale.
Răspuns la îngrijorările societății civile
Aceste măsuri sunt rezultatul unor îngrijorări exprimate de organizațiile neguvernamentale. Un raport recent al ONG-ului Common Sense Media a evidențiat deficiențe în sistemul de monitorizare al OpenAI, arătând că avertizările pentru părinți erau emise prea târziu sau deloc, în cazurile în care adolescenții discutau subiecte sensibile precum automutilarea sau sinuciderea.
Deși statisticile recente arată că tinerii petrec în medie mai puțin de 15 minute pe zi cu ChatGPT, riscurile rămân semnificative. OpenAI a confirmat că noile măsuri de securitate vor fi implementate treptat în săptămânile următoare. Compania a subliniat că aceste instrumente de protecție vor continua să fie ajustate pentru a face față provocărilor în evoluție ale securității cibernetice.
Sursa articol: https://www.go4it.ro/content/inteligenta-artificiala/openai-introduce-restrictii-severe-pe-chatgpt-privind-armele-si-monitorizarea-conversatiilor-violente-19288909/
Sursa foto: Coolcaesar / Wikimedia Commons / CC BY 4.0

