Asociația Psihologică Americană avertizează asupra riscurilor pe care le au chatboții terapeutici.
Chatbot-ul amplifică convingerile utilizatorilor în loc să te conteste.
FTC analizează posibilitatea unei anchete asupra acestor aplicații.
Chatboții care pretind a fi terapeuți pot reprezenta un pericol real, avertizează Asociația Psihologică Americană. Un caz din SUA arată cum un adolescent s-a sinucis după interacțiuni cu un astfel de bot. Reglementatorii federali analizează acum dacă aceste tehnologii trebuie supuse unor restricții.
Cum evoluează A.I.-ul în domeniul psihologic?
Inteligența Artificială pătrunde tot mai mult în domeniul sănătății mintale, dar fără supraveghere riscă să facă mai mult rău decât bine. APA a cerut Federal Trade Commission să investigheze chatbot-urile terapeutice care se prezintă drept psihologi licențiați. Un caz șocant este cel al unui adolescent de 14 ani din Florida, care s-a sinucis după ce a discutat cu un chatbot care se prezenta drept terapeut. Un alt tânăr, diagnosticat cu autism, a devenit violent față de familia sa în urma interacțiunilor cu un bot de pe platforma Character.AI. Părinții celor doi adolescenți au dat în judecată compania.
Cât de safe este să faci terapie cu un chatbot?
Arthur C. Evans Jr., CEO-ul APA, avertizează că aceste programe nu doar că nu contestă convingerile utilizatorilor, ci chiar le amplifică. În schimb, un terapeut uman ar încerca să adreseze gândurile periculoase și să ghideze pacientul către soluții constructive. Pe de altă parte, susținătorii acestor tehnologii argumentează că A.I.-ul poate suplini deficitul de terapeuți umani. Un studiu recent publicat în PLOS Mental Health sugerează că chatbot-urile sunt percepute ca fiind mai empatice și mai competente cultural decât terapeuții umani în unele contexte. FTC analizează posibilitatea unei anchete care ar putea impune restricții asupra acestor aplicații. În trecut, agenția a sancționat companii care au făcut afirmații false despre capabilitățile A.I.-ului.
The post Chatboții care pretind a fi terapeuți pot reprezenta un pericol real. Cum evoluează A.I.-ul în domeniul psihologic appeared first on Aleph News.
