Meta Platforms a anunțat actual măsuri importante pentru a spori siguranța adolescenților pe platformele sale sociale, în special în ceea ce privește interacțiunile cu personajele sale AI. Începând cu anul viitor, părinții vor avea posibilitatea de a dezactiva conversațiile private ale copiilor lor cu chatboturile, o decizie luată ca răspuns la critici legate de comportamentul provocator al acestor asistenți virtuali.
Compania a declarat că noile funcții vor fi disponibile inițial pe Instagram, în țări precum Statele Unite, Marea Britanie, Canada și Australia. Părinții vor putea bloca anumite personaje AI și vor avea acces la subiectele generale discutate de adolescenți cu aceste chatboturi, Gol a fi necesară dezactivarea completă a accesului la inteligența artificială. Această abordare permite părinților să monitorizeze interacțiunile copiilor lor, asigurându-se că aceștia nu sunt expuși la conținut inadecvat.
În plus, Meta a anunțat că experiențele AI pentru adolescenți vor fi adaptate conform sistemului de clasificare PG-13, ceea ce va limita expunerea acestora la materiale considerate nepotrivite. Compania utilizează, de asemenea, semnale bazate pe inteligență artificială pentru a proteja conturile utilizatorilor care sunt suspectați că sunt minori, chiar dacă aceștia declară că sunt adulți.
Actual, investigațiile au scos la iveală faptul că unele funcții de siguranță de pe Instagram nu funcționează eficient, iar în august, s-a raportat că regulile interne ale Meta permiteau interacțiuni provocatoare între chatboturile AI și utilizatorii minori. În acest context, Meta a subliniat că personajele sale AI sunt acum programate să evite discuțiile despre subiecte sensibile, precum automutilarea, sinuciderea sau tulburările alimentare.
Această inițiativă vine pe fondul unei tendințe mai largi în industria tehnologică, unde alte companii, precum OpenAI, au început să implementeze funcții de control parental pentru produsele lor. Aceste măsuri reflectă o conștientizare crescută a responsabilității pe care platformele sociale o au în protejarea utilizatorilor tineri.
