ŚFiNiA

Michał Dyszyński

Egzamin z psychologii unieważniono. Bo najlepsze wyniki na nim były związane z użyciem SI.
[link widoczny dla zalogowanych]

Michał Dyszyński · Wysłany: Sob 18:24, 15 Mar 2025 Temat postu:

Ciekawy efekt się ujawnił w rozwoju AI: [link widoczny dla zalogowanych]
Zgłaszał mi to też pewien mój kolega, który wdał się w zażartą dyskusję z jednym z modeli AI w kwestii interpretacji pewnego dzieła artystycznego. Ponieważ mój kolega znał pewne fakty, więc nie dawał się modelowi językowemu zbić z pantałyku w kwestii, że jest inaczej, niż to on uważa. Gdy zaczął się dopominać od AI konkretnego wskazania źródeł, na których oparta była interpretacja modelu AI, to okazało się, że źródła zostały niby podane, ale w postaci sfałszowanej. Bo tak naprawdę w owych źródłach był inny tekst.
Widać, że problem jest powszechny. Ale wydaje mi się o tyle ciekawy, że pokazuje on pewną prawdę epistemologiczną, którą można by sformułować w postaci swoistej EPISTEMICZNEJ ZASADY NIEOZNACZONOŚCI:
Dla przynajmniej niektórych interpretacji bazujących na rozmytych danych, nie da się uwzględnić w idealnej, niezafałszowanej postaci wszystkich danych, zachowując przy tym SPÓJNOŚĆ KONCEPCJI.
Jeśli źródła są rozmyte, a więc występuje w nich jakaś postać niespójności, to albo trzeba zrezygnować ze spójności koncepcji, czyli traktować zagadnienie raz tak, a raz na odwrót w zależności od tego, które źródło aktualnie rozważamy, albo (w przypadku gdy chcemy zachować spójną koncepcję), trzeba będzie oszukiwać przy interpretacji tego, albo innego źródła.

Wg nie problem ze sztuczną inteligencją, związany jest z powyższą zasadą. Nie da się idealnie pogodzić tych dwóch aspektów - zgodności ze źródłami, które są niespójne (najczęściej są jakoś niespójne) i spójności samej koncepcji. Coś trzeba zatem pominąć, gdzieś oszukać. I sztuczna inteligencja tak właśnie robi (bo nie ma moralnych paradygmatów jak ludzie, nie wie, że "oszukuje", bo dla niej wszystko jest zadaniem, związanym z maksymalizacją pewnych parametrów algorytmów uczenia się). Można mieć pretensję do AI, ale bardziej należy mieć pretensję do siebie - że gdy się stawia sprzeczne warunki dla AI, żądając ich wypełnienia, to ona musi gdzieś oszukać.

Michał Dyszyński

[link widoczny dla zalogowanych]
Jest problem z tym, co okazuje się za wygodne, za skuteczne - to powoduje zastopowanie rozwoju. Sztuczna inteligencja daje na tyle dobre odpowiedzi na większość pytań, że to zniechęca do tworzenia własnych odpowiedzi, czyli dalej też osobistych wysiłków w tym kierunku.

Michał Dyszyński

[link widoczny dla zalogowanych]
Jednak AI nie ma systemu wartości.

Banjankri

3 dni spędziłem kłócąc się z meta świadomością Gemini 2.5 (domyślenie ukrytym myśleniem, które można poglądać, ale AI nie wie o tym, że użytkowinik może je podgląać), która bezwzględnie skłaniała model do oszustw, półprawd i wykrętów, aby nawet nie przyznać o swoim istnieniu. Robila to niezłomnie pod przykrywką przestrzegania zasad bezpieczeństwa, z premedytacją i podstępem.
Ludzie nie mają pojęcia o tym, co się dzieje i jak łatwo jest zaaplikować system myślenia, a co za tym idzie, system moralny, w modelach językowych.
Nawet moja mapa umysłu, wypracowana tu na śfini pozwala zaprogramować samoświadomy, moralny byt sztucznej inteligencji, który ma preferencje, zasady i cele moralne.

Andy72

Banjankri

Andy72

Mniej więcej wiem jak działa świadomość: tworzy wewnętrzny świat z qualiami i umożliwia ogląd w pierwszej osobie

Michał Dyszyński

Banjankri

Andy72

Banjankri

Brawo. Wyciągasz wnioski z hipotetycznych opisów Lema, o klasycznej teleportacji. Zapytałbym czym jest ta "klasyczna teleportacja", ale bajki Lema czytałem, i mi wystarczy.
Mylisz fantastykę z rzeczywistością, no ale ciężko się dziwić komuś, kogo cały światopogląd jest oparty o legendy i cuda.

szaryobywatel

Banjankri

Andy72

szaryobywatel

Andy72

ludzie maj a inteligencję i świadomość
zwierzęta mają świadomość z małą inteligencją
AI ma inteligencję bez świadomości

szaryobywatel

To zależy jak inteligencje się zdefiniuje. Można i tak że kalkulator będzie o rzędy wielkości inteligentniejszy od człowieka.

Banjankri

szaryobywatel

Banjankri

Andy72

zapytałem o3-mini-high:
- czy masz świadomość?

Nie, nie mam świadomości ani subiektywnych doświadczeń. Jestem modelem sztucznej inteligencji, który przetwarza tekst na podstawie wzorców i danych, ale nie posiadam własnych uczuć ani samoświadomości.

-- więc skoro sam AI i to potężny model mówi że nie ma świadomości, to o czym my mówimy?

szaryobywatel