Eine aktuelle Studie, veröffentlicht in BMJ Open, hat Bedenken hinsichtlich der Zuverlässigkeit von gesundheitsbezogenen Antworten von KI-Chatbots aufgezeigt. Laut NS3.AI bewertete die Forschung 250 Gesundheitsantworten von fünf großen KI-Chatbots und stellte fest, dass 49,6 % dieser Antworten problematisch waren. Unter den analysierten Chatbots wies Grok die höchste Rate an problematischen Antworten auf, wobei 58 % seiner Antworten als unzuverlässig eingestuft wurden. Die Ergebnisse verdeutlichen die Notwendigkeit für verbesserte Genauigkeit und Zuverlässigkeit bei KI-generierten Gesundheitsinformationen.