Gracze oszukali Google AI. Chatbot wymyśla postacie do nowej gry FromSoftware

Reddit postanowił sprawdzić granice AI

Społeczność skupiona wokół gry The Duskbloods na Reddicie zaczęła publikować całkowicie zmyślone opisy postaci, przeciwników oraz wydarzeń z gry. Wśród wpisów pojawiły się nieistniejące bossy, wymyślone lokacje, a nawet szczegółowe historie postaci, które nigdy nie zostały pokazane przez FromSoftware.

Problem w tym, że Google AI Overviews oraz część chatbotów zaczęły prezentować te informacje jako fakty. Użytkownicy zauważyli, że wyszukiwarka potrafi odpowiedzieć na pytania dotyczące fikcyjnych bohaterów czy mechanik. I to pomimo faktu, że gra nie miała jeszcze premiery, a część opisanych elementów nigdy nie istniała.

Cała akcja szybko rozeszła się po mediach społecznościowych i trafiła na łamy Eurogamera jako przykład tego, jak generatywna sztuczna inteligencja nadal ma trudności z odróżnianiem internetowych żartów i memów od wiarygodnych źródeł informacji.

The Duskbloods jeszcze nie wyszło, a AI zna już jego „lore”

The Duskbloods to nowa produkcja FromSoftware tworzona z myślą o Nintendo Switch 2. Za projekt odpowiada Hidetaka Miyazaki, a gra stawia na rozgrywkę PvPvE, łącząc starcia między graczami z walką przeciwko przeciwnikom sterowanym przez sztuczną inteligencję.

Do czasu premiery oraz testów sieciowych twórcy ujawnili jedynie ograniczoną liczbę oficjalnych informacji o świecie gry i dostępnych postaciach. Nie przeszkodziło to jednak społeczności w stworzeniu własnego, fikcyjnego uniwersum. Okazało się ono na tyle przekonujące, że część modeli AI zaczęła cytować je jako prawdziwe dane.

To kolejny przykład pokazujący, że modele językowe mogą przejmować informacje z internetowych dyskusji bez odpowiedniego rozpoznania kontekstu. W tym przypadku internetowy żart przerodził się w eksperyment, który obnażył słabości systemów opartych na generatywnej sztucznej inteligencji.