ŚFiNiA

Banjankri

Nowym wyzwaniem to jest polecieć na Marsa. Mówienie, że SI jest nowym wyzwaniem dla ludzi, to jak mówić, że człowiek był nowym wyzwaniem dla małp.

zefciu/konto zamknięte

Banjankri

zefciu/konto zamknięte

Banjankri

To, że nie rozumiemy, nie znaczy że nie możemy go zatrzymać. Jako ludzkość to my mamy kontrolę.
Cele ustala twórca, tak długo jak nie powstanie model, który będzie sam się ukierunkowywał.

szaryobywatel

Banjankri

szaryobywatel

Banjankri

Nikt nie wie, jak to się potoczy, ale twoje argumenty do mnie nie trafiają.

Michał Dyszyński

Sztuczna inteligencja ma halucynacje. [link widoczny dla zalogowanych]

Sztuczna inteligencja już samodzielnie zabija:
[link widoczny dla zalogowanych]

Banjankri

Si, nie tylko uczy się na niepewnych danych, ale i jest uczona na błędnych. To jest twuetapowy proces, w którym drugi ma weryfikować odpowiedzi SI. Niestety on też jest automatyczny, na ogromną skalę, dlatego obarczony błędami. SI w formie LLM nie potrafi weryfikować swoich odpowiedzi, może je jedynie nadpisywać. To są jednak problemy kończoncej się ery (która trwała kilkanaście miesięcy), teraz wchodzimy w nową erę. Tak jak wcześniejsze modele były językowe, tak nowe są (będą) modelami matematycznymi, pozwalającymi rozumować. Mamy więc drugą połowę, brakuje już tylko punktu zaczepienia do budowy ego. Kiedy to się odbędzie nie wiem, bo w OpenAI pociągnęli za hamulce, no ale jak nie oni, to ktoś inny. To kwestia czasu.

Michał Dyszyński

[link widoczny dla zalogowanych]

Michał Dyszyński

SI oszukuje, gdy trzeba. [link widoczny dla zalogowanych]
Oczywiście można się było tego spodziewać, że SI nie będzie moralna, etyczna, lecz po prostu będzie OPTYMALIZOWAŁA REAKCJĘ WEDLE ZAPROGRAMOWANYCH PARAMETRÓW. Jeśli parametry będą takie, że oszukiwanie zyska preferencję nad innymi dostosowaniami, to wtedy zastosowanie oszustwa zwyczajnie będzie świadczyło o zrealizowaniu zadania, jakie przed SI postawiono. Nic szczególnego się w tym nie zdarza, to jest dokładnie przewidywalny efekt. Tak samo z resztą działa człowiek, że stara się wybadać znaczenia parametrów sytuacji, składających się na ocenę tej sytuacji, a następnie człowiek tez optymalizuje swoje decyzje stosownie do tego, co ustalił i jak parametry były ustawione.

Michał Dyszyński

Sztuczna inteligencja zawarta w programach do generowania obrazków z tekstu startuje każde zadanie od losowego układu pikseli, aby potem w kolejnych krokach czynić je czymś coraz bardziej podobnym do idei zawartej w opisie słownym. Zastanawiam się, czy tak samo działa też i człowiek?
- Tu wg mnie odpowiedź nie jest jednoznaczna, tzn. czasem działamy bardziej od losowego seeda, a czasem próbujemy start rozumowania od gotowców. Zresztą i programy wykorzystujące SI też działać mogą w tym trybie - przekształcania istniejącego obrazu.
Natomiast niezależnie od tego, z czego rozumowanie (tak SI, jak i ludzkie) startuje, obowiązuje to, iż myślenie będzie próbowało jakoś naginać stan aktualny do idei. Czyżby to oznaczało, że myślenie z natury jest "życzeniowe"?...
- Uważam, że i tak, i nie.
W jednym aspekcie myślenie jest życzeniowe, a w innym już takim nie jest. Myślenie jest swoistą grą, w której nasza życzeniowość jest raz wyciągana, a za chwilę chowana, raz jest jego większy wkład, raz mniejszy.

fedor

Sztuczna Inteligencja nie poradziła sobie z prostą obsługą sklepu samoobsługowego. Musiało ją w tym zastępować tysiąc Hindusów i przy okazji wyszło na jaw, że ukrywano to:

[link widoczny dla zalogowanych]

Banjankri

[link widoczny dla zalogowanych]

Generator muzyki wszelkiej. Okazuje się, że to kreatywna praca zniknie najszybciej z puli zawodów wykonywanych przez ludzi.

Michał Dyszyński

fedor

Disco polo. Ależ kreatywność. SI nie "tworzy" żadnej muzyki. Jedynie plagiatuje i kopiuje już wcześniej stworzone przez człowieka wzorce i schematy. Sama z siebie nic nie tworzy, tak jak choćby Bethoven, który komponował nawet wtedy gdy był głuchy:

"obecne systemy AI nadal mają poważne ograniczenia w zdolności do komponowania. Brakuje im prawdziwej kreatywności, głębi emocjonalnej i spójnej wizji artystycznej, które cechują dzieła wielkich kompozytorów. Utwory generowane przez AI potrafią brzmieć poprawnie pod względem formalnym, ale są pozbawione "duszy" i wyrazu. Sztuczna inteligencja naśladuje style, ale nie rozumie emocji ani nie posiada własnej osobowości. Dlatego na razie maszyny nie są w stanie samodzielnie stworzyć arcydzieła na miarę Requiem Mozarta czy Symfonii Beethovena"

[link widoczny dla zalogowanych]

Michał Dyszyński

szaryobywatel

Jakie to odwrotne względem intuicji sprzed jeszcze niewiele ponad dekady, że SI będzie genialna analitycznie, za to niezdolna do wytworzenia sztuki czy wysławiania się po ludzku. Tymczasem jest zupełnie odwrotnie, najpierw się nauczyła wysławiać po ludzku.

fedor

Michał Dyszyński