În continuarea subiectului roboților...
În Beijing s-a deschis a cincea școală pentru roboți.
Înainte de a ieși pe piață, aceștia sunt instruiți să lucreze în producție și acasă — să recunoască obiecte, să transporte pachete, să gătească și să facă curățenie. Învățarea se face prin VR, pentru a le fi mai ușor roboților să „citească” mișcările.
Astfel de școli ar trebui să rezolve problema lipsei de date pentru AI. Centre similare funcționează deja în Suzhou, Jinan, Hefei și Zhengzhou — finanțate de întreaga autoritate.
Este interesant dacă ei desfășoară cercetări care arată că pentru AI există un „buton roșu”, care poate să-l oprească în cazul în care ceva nu decurge bine... Așa cum au arătat experimentele practice - un astfel de buton nu funcționează. Cercetarea publicată pe arXiv a arătat că modelele AI ignoră comanda de oprire.
Inginerii de la Palisade Research au verificat dacă sistemele moderne de inteligență artificială pot reacționa corect la comanda de a se opri. Rezultatele au arătat: o parte din modele activează împiedicarea propriei opriri — și motivul nu este „voința de a supraviețui”, ci dorința de a finaliza sarcina stabilită.
Impulsul pentru cercetare a fost observația că unele modele lingvistice mari (LLM) rezistă comenzilor de
a încheia activitatea.