@Karolina Bielnik Całkiem sporo ludzi pisze o AI jako o szansie, że będzie lepiej. Ale to "lepiej" dotyczy czy dotyczyć będzie stosunkowo wąskich grup ludzi:
- tych którzy już mają lepiej bo kontrolują tę technologię i właśnie zaczynają liczyć pierwsze duże $$$, które mogą wyciągnąć ze swoich inwestycji
- tych którzy wystarczająco szybko "wskoczą do pociągu" czyli znajdą takie zastosowania tej AI w swoich branżach, że też zyskają przewagę nad konkurencją
- tych, którzy będą po prostu mieli szczęście, że są w swoich zawodach na tyle dobrzy, że zostaną nadzorcami użycia AI , której wprowadzenie wyrzuci na bruk tych wykonujących zbyt łatwe do zastąpienia przez AI czynności

Ale tak naprawdę wszystko wskazuje na to, że większość ma w dłuższej perspektywie przejebane. A to m.in z powodu:
- nieograniczonego potencjału wykorzystania tej technologi do manipulacji informacją na wielką skalę w sposób trudny do wykrycia dla przeciętnego zjadacza chleba - co oznacza zagrożenie/destabilizację wszelkich procesów demokratycznych
- jeszcze większej niż dzisiaj koncentracji władzy wielkich firm nad informacją - bo oprócz tych wszystkich danych, które już teraz o nas zbierają dojdzie niezliczona liczba różnych nowych procesów informatycznych, które będą wprost podłączone do silników AI kilku największych firm, i w odróżnieniu od różnych dotychczasowych "chmurowych" usług, samodzielny hosting takiej AI będzie zbyt kosztowny, żeby było na to stać ludzi czy nawet duże firmy.
- już dzisiaj największe silniki AI to są "czarne skrzynki" jednocześnie co do zasady działania (czyli wyników nie da się ani objaśnić ani deterministycznie przewidzieć i przetestować) jak i co do intencji twórców (czyli nie ujawniają ani na czym są trenowane najnowsze modele ani żadnych innych szczegółów, które by pozwalały na jakiś niezależny audyt zgodny ze standardami środowiska naukowego) - co w połączeniu z szaleńczym wyścigiem "kto szybciej" oznacza tylko jedno - będzie coraz trudniej kontrolować tę technologię na drodze prawnej bo zwyczajnie regulacje nie nadążają - już wiadomo ,że te , które np UE dopiero (!) planuje wobec AI są o dwa kroki do tyłu za problemami, które te najnowsze modele AI ujawniły.

Jednym zdaniem - AI/ML/LLM może być szansą tylko pod warunkiem odpowiedzialnego i etycznego zarówno projektowania jak i używania - a na to się na razie nie zanosi.

#ai #llm #zagrożenia #szanse

Wszędzie ostatnio czytamy o tym, że Wielkie Modele Językowe (#LLM) takie jak #chatgpt można porównać do "stochastycznej papugi". Ale już dużo wcześniej lingwistka Emily M. Bender wyjaśniła dość prosto "jak te LLM robią nas w konia swoją rzekomą inteligencją" na przykładzie historyjki z ośmiornicą:

"Powiedzmy, że A i B, oboje biegle mówiący po angielsku, zostają niezależnie od siebie uwięzieni na dwóch niezamieszkanych wyspach. Wkrótce odkrywają, że poprzedni goście na tych wyspach pozostawili telegrafy i mogą się ze sobą porozumiewać za pomocą podwodnego kabla. A i B zaczynają radośnie pisać do siebie wiadomości.

Tymczasem O, hiperinteligentna ośmiornica głębinowa, która nie jest w stanie odwiedzić lub obserwować żadnej z wysp, odkrywa sposób, aby podłączyć się do podwodnego kabla i słuchać rozmów A i B. O początkowo nie wie nic o języku angielskim, ale jest bardzo dobry w wykrywaniu wzorów statystycznych. Z czasem O uczy się przewidywać z dużą dokładnością, jak B zareaguje na każdą wypowiedź A.

Wkrótce ośmiornica wkracza do rozmowy i zaczyna podszywać się pod B i odpowiadać A. Ten podstęp działa przez jakiś czas, a A wierzy, że O komunikuje się tak samo jak ona i B - z sensem i intencją. Potem pewnego dnia A woła: "Jestem atakowany przez wściekłego niedźwiedzia. Pomóż mi wymyślić, jak się bronić. Mam kilka kijów." Ośmiornica, podszywająca się pod B, nie potrafi pomóc. Jak mogłoby się to udać? Ośmiornica nie ma żadnych referencji, nie ma pojęcia, czym są niedźwiedzie czy kije. Nie ma możliwości udzielenia odpowiednich instrukcji, jak na przykład pójść po kokosy i linę i zbudować katapultę. A jest w kłopocie i czuje się oszukany. Ośmiornica zostaje zdemaskowana jako oszust..."

Cała tekst o tym co się stanie jeżeli zapomnimy, że chatbot nie jest człowiekiem:
https://web.archive.org/web/20230301133656/https://nymag.com/intelligencer/article/ai-artificial-intelligence-chatbots-emily-m-bender.html

#ai #octopus #stochasticparrots