Wszędzie ostatnio czytamy o tym, że Wielkie Modele Językowe (#LLM) takie jak #chatgpt można porównać do "stochastycznej papugi". Ale już dużo wcześniej lingwistka Emily M. Bender wyjaśniła dość prosto "jak te LLM robią nas w konia swoją rzekomą inteligencją" na przykładzie historyjki z ośmiornicą:
"Powiedzmy, że A i B, oboje biegle mówiący po angielsku, zostają niezależnie od siebie uwięzieni na dwóch niezamieszkanych wyspach. Wkrótce odkrywają, że poprzedni goście na tych wyspach pozostawili telegrafy i mogą się ze sobą porozumiewać za pomocą podwodnego kabla. A i B zaczynają radośnie pisać do siebie wiadomości.Tymczasem O, hiperinteligentna ośmiornica głębinowa, która nie jest w stanie odwiedzić lub obserwować żadnej z wysp, odkrywa sposób, aby podłączyć się do podwodnego kabla i słuchać rozmów A i B. O początkowo nie wie nic o języku angielskim, ale jest bardzo dobry w wykrywaniu wzorów statystycznych. Z czasem O uczy się przewidywać z dużą dokładnością, jak B zareaguje na każdą wypowiedź A.
Wkrótce ośmiornica wkracza do rozmowy i zaczyna podszywać się pod B i odpowiadać A. Ten podstęp działa przez jakiś czas, a A wierzy, że O komunikuje się tak samo jak ona i B - z sensem i intencją. Potem pewnego dnia A woła: "Jestem atakowany przez wściekłego niedźwiedzia. Pomóż mi wymyślić, jak się bronić. Mam kilka kijów." Ośmiornica, podszywająca się pod B, nie potrafi pomóc. Jak mogłoby się to udać? Ośmiornica nie ma żadnych referencji, nie ma pojęcia, czym są niedźwiedzie czy kije. Nie ma możliwości udzielenia odpowiednich instrukcji, jak na przykład pójść po kokosy i linę i zbudować katapultę. A jest w kłopocie i czuje się oszukany. Ośmiornica zostaje zdemaskowana jako oszust..."
Cała tekst o tym co się stanie jeżeli zapomnimy, że chatbot nie jest człowiekiem:
https://web.archive.org/web/20230301133656/https://nymag.com/intelligencer/article/ai-artificial-intelligence-chatbots-emily-m-bender.html
reshared this
m0bi, antygon, Rafał Wileczek, tomek, Piotr Zaborowski, ihor, Jerzykk, Smootnyclown, Sondzia Bartoszcze, nemo 🐠🐦, MB, Krzysiek, Kierunkowy74 and Jakebut reshared this.
m0bi
•Bartek
•było też świetne wyjaśnienie.
ChatGPT Is a Blurry JPEG of the Web
Ted Chiang (The New Yorker)MiKlo:~/citizen4.eu$💙💛
•