Im Anschluss an das Thema Roboter...
In Peking wurde die fünfte Schule für Roboter eröffnet.
Vor dem Markteintritt werden sie darin geschult, in der Produktion und zu Hause zu arbeiten – Objekte zu erkennen, Pakete zu tragen, zu kochen und aufzuräumen. Das Training erfolgt über VR, damit es den Robotern leichter fällt, Bewegungen zu "lesen".
Solche Schulen sollen das Problem des Mangels an Daten für KI lösen. Ähnliche Zentren sind bereits in Suzhou, Jinan, Hefei und Zhengzhou tätig – finanziert von der gesamten Regierung.
Interessant ist, ob sie Forschungen durchführen, die zeigen, dass es für KI einen "roten Knopf" gibt, der sie stoppen kann, wenn etwas schiefgeht... Wie praktische Experimente gezeigt haben, funktioniert ein solcher Knopf nicht. Die Forschung, die auf arXiv veröffentlicht wurde, hat gezeigt, dass KI-Modelle das Ausschalten ignorieren.
Ingenieure von Palisade Research haben getestet, ob moderne Systeme der künstlichen Intelligenz korrekt auf das Kommando zu stoppen reagieren können. Die Ergebnisse zeigten: Ein Teil der Modelle verhindert aktiv das eigene Ausschalten – und der Grund dafür ist nicht der "Willen zum Überleben", sondern das Bestreben, die gestellte Aufgabe zu beenden.
Der Anstoß für die Forschung waren Beobachtungen, dass einige große Sprachmodelle (LLM) Widerstand gegen Kommandos zum
Beenden der Arbeit leisten.