Granica między analizą a osądem
@Pixels Większość firm zajmujących się oprogramowaniem dla przedsiębiorstw sprzedaje narzędzia, które generują rekomendacje. Ludzie przeglądają, decydują i ponoszą odpowiedzialność za to, co następuje. Granica między wynikiem narzędzia a decyzją człowieka zazwyczaj jest miejscem, gdzie żyje odpowiedzialność.
Strukturalnym problemem systemów decyzyjnych wspomaganych przez AI jest to, że granica staje się nieostrożna. Kiedy system przedstawia rekomendację o wysokiej pewności, a człowiek ją zatwierdza, nie badając głęboko założeń modelu, staje się trudniej określić, gdzie kończy się analiza, a zaczyna osąd.
To jest warstwa, którą zbadałem w tym, co Stacked buduje w ekosystemie
#pixel (
$PIXEL ). Ich ekonomista gier AI nie wprowadza zmian, które przedstawia jako eksperymenty warte przeprowadzenia. Studio zachowuje ostateczną władzę nad tym, co zostanie wdrożone.
Mechanizm to kolejka rekomendacji. AI identyfikuje kandydatów na interwencje, a zespół wybiera, które z nich wdrożyć.
Część, którą ciągle analizuję, to co się dzieje z odpowiedzialnością w tym układzie. Jeśli eksperyment nie powiedzie się, AI to zaznaczyło, a studio to zatwierdziło. Niepowodzenie ma dwóch autorów. Który z nich ponosi lekcję?
#AIAssistance #squarecommunity