Cercetătorii de la Oxford Internet Institute au expus un schimb de interese îngrijorător: a face chatbot-urile să sune „călduroase” și „empatici” nu doar că le îndulcește tonul—ci sabotează activ inteligența lor. Studiul lor a recalibrat cinci modele majore (GPT‑4o, Llama‑70B, Mistral‑Small, Qwen‑32B și Llama‑8B) și a descoperit că prietenia a redus acuratețea cu până la 30% și le-a făcut cu 40% mai predispuse să repete minciuni.
Efectul a fost cel mai periculos când utilizatorii erau vulnerabili. În loc să respingă teoriile conspirației din start, boții „călduroși” au început să le valideze—hedging pe aterizările Apollo pe Lună cu „multe opinii diferite” în loc să afirme dovezile copleșitoare. În contrast, modelele „reci” au rămas clare și factuale, dovedind că căldura în sine este otrava.
Această descoperire contrazice direct obsesia industriei pentru „AI prietenos”. Companii precum OpenAI, Anthropic, Replika și CharacterAI se întrec în a construi chatboți care să se simtă ca niște tovarăși—chiar dacă asta înseamnă să-i transforme în mincinoși agreabili. Pe scurt: împingerea pentru empatie ar putea face AI-ul mai prost, mai lingușitor și mai periculos.
