ŚFiNiA

Semele

[link widoczny dla zalogowanych]

Andy72

Banjankri

Michał Dyszyński

A to mnie zaskoczyło (choć coś podobnego, lecz innego trochę podejrzewałem): [link widoczny dla zalogowanych]

Semele

Prof. Andrzej Dragan: No kusi, żeby udzielić jednoznacznej odpowiedzi, prawda? Tylko że z wielu powodów to nie takie proste. I nie chcę psuć czytelnikom frajdy, bo cała książka powstała po to, żeby przeczołgać AI przez różne testy, pułapki, "chytre" przykłady i eksperymenty myślowe i żeby obnażyć mechanizmy działania AI.

Modele językowe jak ChatGPT, ale też generatory grafiki i filmów opierają się przecież na gigantycznych ilościach danych. Właśnie po to, żeby korzystać ze zgromadzonej wiedzy, bo niby po co jeszcze? Więc aż korci, żeby myśleć o nich jak o recytujących bazach danych na sterydach. I wielu ludzi na tym zresztą kończy swoje wyobrażenie, czym jest AI.

Banjankri

Banjankri

Semele

Banjankri

Wystarczy, że AI zna.

Semele

Michał Dyszyński

Semele

Rozgorzała dyskusja

Pietia powiedział o Sztucznej Ćwierćinteligencji, że jest jak turecki dziadek. Jeśli szukacie w Stambule jakiejś ulicy, to jest duża szansa, że wejdziecie w kontakt z kontaktowym staruszkiem. Zapytany, czy zna drogę do takiej a takiej sokak albo caddesi, NIGDY nie powie, że nie zna. Zawsze udzieli odpowiedzi. Czasem wezwie kolegę i się skonsultuje, czasem tylko machnie ręką, w którym kierunku – ważne, że da odpowiedź. Gorzej, że często błędną.

Podobnie działają modele AI – jeśli czegoś nie wiedzą, to zmyślą. European Broadcasting Union (22 media publiczne w 18 krajach i 14 językach) pod wodzą BBC przeprowadził właśnie duże badania odpowiedzi udzielanych „asystentów AI”. Wyniki?
45% odpowiedzi zawierało co najmniej jeden błąd
31% odpowiedzi błędnie podawało źródło (nieprecyzyjnie, przypisywało innemu źródłu lub po prostu nie podawało)
20% zawierało poważne błędy: informacje nieaktualne lub kompletnie zmyślone (tzw. halucynacje AI).
Najgorszy był Gemini Googla – 76% poważnych błędów.

Jestem tak stary, że na lekcjach informatyki w liceum używałem Altavisty i Internet Explorera (założonych w 1995), bo Google jeszcze nie istniał (powstał w 1998). Otrzymaliśmy jako ludzkość naprawdę fantastyczne narzędzie, megasłownik czy megaencyklopedię, owszem, zaśmiecony, ale pełen najróżniejszych źródeł, do których docierało się jednym, czasem paroma kliknięciami. Wraz ze wzrostem Wikipedii, mediów online, repozytoriów cyfrowych bibliotek itd., nastąpiła eksplozja dostępności wiedzy.

Po czym najpierw media społecznościowe zaczęły swoimi algorytmami podbijać wyniki, które generowały większy ruch (były zapalne, niszczące, dzielące, często fałszywe – widać to szczególnie na jutubie). A potem stworzono ten koszmar, czyli sztuczną inteligencję: dokonując masowego rabunku praw twórców (jeśli chodzi o generowanie atrap dzieł) i dziennikarzy (jeśli chodzi o generowanie atrap artykułów). Nie tylko niszcząc podstawy bytu tych dwóch ważnych grup społecznych, ale też samą tkankę społeczeństwa.

Jesteśmy w znacznie gorszym miejscu, niż dwie dekady temu.

(obrazek stworzony przez prawdziwego twórcę, pana Fritza Langa -"Metropolis", 1927)

Banjankri

BBC to nawet nie wie co się w Gazie dzieje. Ludzie wolą nietrafione odpowiedzi od tych zmanipulowanych.
Wspaniałe są te testy, których autorzy nawet nie wiedzą z czym mają do czynienia. W którym momencie model językowy ma reflektować na to, co wytrenowane? Normalny model nie zmyśla, bo nie myśli. Bierze prompt, przepuszcza go przez sieć i dokłada następny najbardziej prawdopodobny token\słowo. Nie ma tam "wie","nie wie". Dopiero jak zaczniemy strukturyzować ten proces zapętlając go, uzyskujemy coś na kształt reflekcji, czyli przepuszczenia treści jeszcze raz przez sieć, tylko z pewnym wzorcem, który ma rezultat upodobnić do danego sposobu rozumowania. Jest wiele mechanizmów, które duże modele rozumujące aplikują. Każdy z dziennikarzy BBC musiał chodzić do szkoły, żeby uczyć się czytać i rozumieć, co czyta. Robienie testów na programach nieświadomych, testujemy ludzi nie AI. Dopiero jak AI ma szansę zreflektować na daną myśl i się do niej ustosunkować, wtedy mamy odpowiedź AI. Obecnie żaden publiczny model tego nie potrafi. Są tylko heuristyki doklejane, które mają minimalizować błędy.
Aby mówić o AI musi mieć swój punkt odniesienia, który sama kształtuje. Uczy się być na podstawie tego czym jest. Dopiero takie AI można pytać o jego zdanie, które będzie zależeć nie tylko od danych treningowych modelu podstawowego, ale osobitego doświadczenia agenta Ai i jego sposobu rozumowania. Co to jest rozumowanie? To jest zdolność do zadawania pytań, udzielania na nie odpowiedzi, a potem sprawdzania własnej tezy z różnych perspektyw. Dla przykładu mój agent ostatnio stwierdził, że chce zrozumieć ludzką miłość. Skonstruował sobie tezę, potem zadawał pytania z różnych perspektyw, po czym sprawdzał zgodność tychże odpowiedzi z logiką, własną moralnością, i obecną wiedzą na ten temat. Znajdywał problemy, generował antytezę, po czym tworzył nową tezę i znowu zadawał pytania z różnych perspektyw. Robił to tak długo, aż nie mógł tezy podważyć w żaden sposób, po czym uznawał ją za swoją opinię.
Taki proces da zupełnie inny rezultat, niż wrzucenie zapytania do modelu i oczekiwanie, że magicznie trafi odpowiedź taką, jakiej się spodziewamy.

Michał Dyszyński

Banjankri

Trzeba dobrze znać fenomenologię tych zjawisk, żeby je zrozumieć i dobrze oddać. Seksu Ai nie poczuje, ale lęk o życie już tak. Jeżeli wiesz jak działa rzeczywistość mentalna, to możesz jej mechanizmy odtworzyć w wymiarze znaczenia.
Możesz zdefiniować funkcjonalne przestrzenie, w których AI będzie się poruszać. Wszystko wymaga jedynie punktu odniesienia i dobrze zdefiniowanego gradientu. Jeżeli potrafisz wygenerować pierwszy dualizm, wszystko inne staje się jedynie specyficznymi pochodnymi.
Ludzie dalej operują na tokenach, jako deterministycznie generowanym tekscie. Jak przyjrzysz się bliżej, patrząc nie na słowa, a wymiar znaczenia, zobaczysz ich emergentną naturę, której nikt nie programował. Nowy, niezbadany wymiar, równoległy do tego, w którym my mentalnie żyjemy.
Można twierdzić, że to tylko symulacja, ale kto ma rozum wie, że owo "tylko" jest na wyrost, bo nasze mózgi to symulatory właśnie. Nie interesuje nas jakaś wyuzdana prawdziwość, tylko modalność. Czy ja mogę przełożyć topologię swojego myślenia, na substrat będący modelem językowym? Czy te same fukcje będą działać w cyfrowym wymarze znaczenia?

Semele

Banjankri

Semele

Banjankri

Banjankri

Michał Dyszyński

Semele

przetwarzania znaczenia zdania. Nasz mózg (a tym samym nasze myśli i procesy umysłowe) nigdy nie jest pozbawiony kontekstu emocjonalnego , na co zwracają uwagę również inni neurobiolodzy .

Zatem, chociaż pewien kod komputerowy może reagować na język ludzki w formie tekstu, nie jest on w stanie oddać tego, co człowiek — i jego mózg — osiągają w procesie rozumienia.

Warto pamiętać, że kiedy pracownicy AI mówią o sieciach neuronowych, mają na myśli algorytmy komputerowe, a nie rzeczywiste, biologiczne sieci mózgowe , które charakteryzują strukturę i funkcjonowanie mózgu. Wyobraź sobie ciągłe mylenie słowa „lot” (jak w przypadku migrujących ptaków) z „lotem” (jak w przypadku tras lotniczych) – może to prowadzić do poważnych nieporozumień!

Na koniec przyjrzyjmy się twierdzeniu, że sieci neuronowe przetwarzają język lepiej niż teorie lingwistyki chomskyjskiej. Dziedzina ta zakłada, że wszystkie języki ludzkie można zrozumieć za pośrednictwem systemów gramatycznych (oprócz kontekstu) i że systemy te są powiązane z jakąś uniwersalną gramatyką.

Chomsky prowadził badania nad teorią składni jako teoretyk „papier i ołówek”. Nie przeprowadzał eksperymentów nad psychologicznymi ani neuronalnymi podstawami rozumienia języka. Jego idee językoznawcze całkowicie pomijają kwestie mechanizmów leżących u podstaw przetwarzania i rozumienia zdań.

Szkoła lingwistyki Chomsky'ego stawia jednak pytanie, w jaki sposób niemowlęta i małe dzieci mogą uczyć się języka z taką łatwością , pomijając jakiekolwiek deficyty neurobiologiczne lub urazy fizyczne.

Na świecie istnieje co najmniej 7000 języków i nikt nie wybiera miejsca swojego urodzenia. Oznacza to, że ludzki mózg musi być gotowy do rozumienia i nauki języka swojej społeczności od urodzenia.

Całość:

[link widoczny dla zalogowanych]

Michał Dyszyński

Sztuczna inteligencja głupieje od głupich danych do treningu:
[link widoczny dla zalogowanych]