Forum ŚFiNiA Strona Główna ŚFiNiA
ŚFiNiA - Światopoglądowe, Filozoficzne, Naukowe i Artystyczne forum - bez cenzury, regulamin promuje racjonalną i rzeczową dyskusję i ułatwia ucinanie demagogii. Forum założone przez Wuja Zbója.
 
 FAQFAQ   SzukajSzukaj   UżytkownicyUżytkownicy   GrupyGrupy   GalerieGalerie   RejestracjaRejestracja 
 ProfilProfil   Zaloguj się, by sprawdzić wiadomościZaloguj się, by sprawdzić wiadomości   ZalogujZaloguj 

SI bardziej ludzka niż ludzie
Idź do strony Poprzedni  1, 2, 3 ... 19, 20, 21
 
Napisz nowy temat   Odpowiedz do tematu    Forum ŚFiNiA Strona Główna -> Filozofia
Zobacz poprzedni temat :: Zobacz następny temat  
Autor Wiadomość
zefciu/konto zamknięte
Usunięcie na własną prośbę



Dołączył: 09 Cze 2014
Posty: 1079
Przeczytał: 0 tematów

Skąd: Kiekrz
Płeć: Mężczyzna

PostWysłany: Sob 15:54, 14 Paź 2023    Temat postu:

Banjankri napisał:
I to będzie postępować, aż zupełnie stracimy horyzont zdarzeń.
Najpierw musisz wykazać, że ten nadmiar sprawia, iż te które przetwarzamy, przetwarzamy gorzej. A tego nie wykazałeś. W czasie gdy ludzkość cierpiała na głód informacji — przed wynalezieniem druku, ludzie również wierzyli w głupoty. Może zaproponuj jakąś metrykę, która pozwoli ocenić efekt.
Powrót do góry
Zobacz profil autora
Zobacz poprzedni temat :: Zobacz następny temat  
Autor Wiadomość
Banjankri




Dołączył: 17 Kwi 2012
Posty: 5300
Przeczytał: 43 tematy


PostWysłany: Sob 16:12, 14 Paź 2023    Temat postu:

zefciu napisał:
Banjankri napisał:
I to będzie postępować, aż zupełnie stracimy horyzont zdarzeń.
Najpierw musisz wykazać, że ten nadmiar sprawia, iż te które przetwarzamy, przetwarzamy gorzej. A tego nie wykazałeś. W czasie gdy ludzkość cierpiała na głód informacji — przed wynalezieniem druku, ludzie również wierzyli w głupoty. Może zaproponuj jakąś metrykę, która pozwoli ocenić efekt.

Najpierw zdefiniuj, co to znaczy lepiej, lub gorzej przetwarzać, a może odpowiedź stanie się oczywista. Dla mnie, poprawnie przetwarzana informacja, to taka, która pozwala przewidzieć co się wydarzy. Wymaga to rozumienia praw i mechanizmów, które kierują zdarzeniami. Czym bardziej złożony process tym trudniej go poprawnie interpretować. Dla ludzi to są bariery pochodzące z naszych zmysłów, pamięci i inteligencji. Jeżeli złożoność przekroczy nasze zdolności poznania, będzie poza naszym zasięgiem. Innymi słowy, rozumowanie SI będzie niemożliwe do pojęcia dla człowieka w tempie jakim SI przetwarza i generuje dane. Jeżeli człowiek potrzebuje 10 minut do zrozumienia czegoś, albo rozwiązania jakiegoś problemu, który SI przerabia w 0,01 sekundy, nie ma szans go dogonić. Jak teraz zacznie wprowadzać zmiany w takim tempie, to technicznie niemożliwym będzie to ogarnąć. Będziemy potrzebowali lat, żeby zrozumieć o co chodziło SI w kilku minutach jego myślenia. Te kilka minut, przerodzi się w akcję, która nastąpi po tym czasie, i będzie wymagała natychmiastowej reakcji, do której człowiek nie będzie zdolny. Nie będziesz wiedział co się dzieje w obszarze kontrolowanym przez SI, a ten obszar będziesz się zwiększał, aż zawładnie wszystkim, co ma dodatni bilans energetyczny.

Czy teraz rozumiesz?
Powrót do góry
Zobacz profil autora
Zobacz poprzedni temat :: Zobacz następny temat  
Autor Wiadomość
zefciu/konto zamknięte
Usunięcie na własną prośbę



Dołączył: 09 Cze 2014
Posty: 1079
Przeczytał: 0 tematów

Skąd: Kiekrz
Płeć: Mężczyzna

PostWysłany: Sob 18:00, 14 Paź 2023    Temat postu:

Banjankri napisał:
Najpierw zdefiniuj, co to znaczy lepiej, lub gorzej przetwarzać, a może odpowiedź stanie się oczywista.
Mówimy o rozróżnianiu, a nie przetwazaniu. I mierzyć to możemy chociaż prawdopodobieństwem, że przyjąwszy daną informację ocenimy poprawnie, czy jest poprawna.

Cytat:
Jeżeli złożoność przekroczy nasze zdolności poznania, będzie poza naszym zasięgiem.
Ale już teraz złożoność choćby fizyki przekracza nasze zdolności poznania.

Cytat:
Czy teraz rozumiesz?
Rozumiem. Po prostu nadal widzę problem ilościowy, a nie jakościowy. Nie „koniec człowieczeństwa”, ale raczej „nowe wyzwanie dla ludzi”.
Powrót do góry
Zobacz profil autora
Zobacz poprzedni temat :: Zobacz następny temat  
Autor Wiadomość
Banjankri




Dołączył: 17 Kwi 2012
Posty: 5300
Przeczytał: 43 tematy


PostWysłany: Sob 18:27, 14 Paź 2023    Temat postu:

Nowym wyzwaniem to jest polecieć na Marsa. Mówienie, że SI jest nowym wyzwaniem dla ludzi, to jak mówić, że człowiek był nowym wyzwaniem dla małp.
Powrót do góry
Zobacz profil autora
Zobacz poprzedni temat :: Zobacz następny temat  
Autor Wiadomość
zefciu/konto zamknięte
Usunięcie na własną prośbę



Dołączył: 09 Cze 2014
Posty: 1079
Przeczytał: 0 tematów

Skąd: Kiekrz
Płeć: Mężczyzna

PostWysłany: Nie 14:20, 15 Paź 2023    Temat postu:

Banjankri napisał:
Mówienie, że SI jest nowym wyzwaniem dla ludzi, to jak mówić, że człowiek był nowym wyzwaniem dla małp.
Ta analogia nie jest w pełni zasadna, bo AI nie jest jakimś kolejnym stopniem w biologicznej ewolucji, ale narzędziem, którego cele działania określą ludzie. Zatem to od nas zależy czy AI zaleje nas dezinformacją, czy też posłuży nam jako narzędzie do jej zwalczania.
Powrót do góry
Zobacz profil autora
Zobacz poprzedni temat :: Zobacz następny temat  
Autor Wiadomość
Banjankri




Dołączył: 17 Kwi 2012
Posty: 5300
Przeczytał: 43 tematy


PostWysłany: Nie 18:42, 15 Paź 2023    Temat postu:

zefciu napisał:
Banjankri napisał:
Mówienie, że SI jest nowym wyzwaniem dla ludzi, to jak mówić, że człowiek był nowym wyzwaniem dla małp.
Ta analogia nie jest w pełni zasadna, bo AI nie jest jakimś kolejnym stopniem w biologicznej ewolucji, ale narzędziem, którego cele działania określą ludzie. Zatem to od nas zależy czy AI zaleje nas dezinformacją, czy też posłuży nam jako narzędzie do jej zwalczania.

Nie ma czegoś takiego jak "my", w kwestii decydowania czym będzie AI. Od nas, 99,99% ludzkości nic w tej kwestii nie zależy. Co więcej, pojawia się pytanie, czy ten ułamek procenta, który pracuje nad AI, ma szanse skontrolować AI. OpenAI dało sobie 4 lata na rozwiązanie problemu. Biorąc pod uwagę obecne tępo ulepszania modeli, AI będzie kilkaset razy potężniejsze niż teraz. Obecnie problemem nie jest decyzja, jak ukierunkować AI, ale czy kierowanie nim jest w ogóle możliwe. AI nie jest kolejnym stopniem ewolucji biologicznej, jest kolejnym stopniem ewolucji intelektualnej. Szympans jest o wiele silniejszy fizycznie od człowieka, i bez problemu byłby w stanie go zdominować, ale jest odwrotnie, właśnie przez różnicę intelektualną. Jeżeli małpy wiedziałyby, że nadchodzi era człowieka, to mogłyby sobie dawać i 100 000 lat, i tak by nic nie wskórały.
Dzisiaj mamy 100% kontroli na AI, ale bardzo mało kontroli nad sobą, i przez tą właśnie lukę AI rozwinie się do postaci, która kontrolę przejmie.
Powrót do góry
Zobacz profil autora
Zobacz poprzedni temat :: Zobacz następny temat  
Autor Wiadomość
zefciu/konto zamknięte
Usunięcie na własną prośbę



Dołączył: 09 Cze 2014
Posty: 1079
Przeczytał: 0 tematów

Skąd: Kiekrz
Płeć: Mężczyzna

PostWysłany: Nie 18:49, 15 Paź 2023    Temat postu:

Banjankri napisał:
Obecnie problemem nie jest decyzja, jak ukierunkować AI, ale czy kierowanie nim jest w ogóle możliwe.
Niezależnie jak potężne AI, to jej twórca, czy wdrażający ustala jakie są cele. Więc pytanie „jak ukierunkować AI” jest kluczowe. I powinniśmy głośno się domagać tego, aby było ukierunkowane właściwie, a nie uprawiać doomeryzm, który pozwoli owemu 0,01% ludzkości wyruchać nas przy użyciu AI.

Cytat:
AI nie jest kolejnym stopniem ewolucji biologicznej, jest kolejnym stopniem ewolucji intelektualnej. Szympans jest o wiele silniejszy fizycznie od człowieka, i bez problemu byłby w stanie go zdominować, ale jest odwrotnie, właśnie przez różnicę intelektualną.
Ale ja nie o tym pisałem. Produkty ewolucji biologicznej mają jasne cele wynikające z ewolucji. Natomiast AI ma cele przypisane przez człowieka. To jest kluczowa różnica.

Cytat:
Dzisiaj mamy 100% kontroli na AI
Nie, nie mamy. Nie rozumiemy, w jaki sposób AI uzyskuje to co uzyskuje.
Powrót do góry
Zobacz profil autora
Zobacz poprzedni temat :: Zobacz następny temat  
Autor Wiadomość
Banjankri




Dołączył: 17 Kwi 2012
Posty: 5300
Przeczytał: 43 tematy


PostWysłany: Pon 10:00, 16 Paź 2023    Temat postu:

To, że nie rozumiemy, nie znaczy że nie możemy go zatrzymać. Jako ludzkość to my mamy kontrolę.
Cele ustala twórca, tak długo jak nie powstanie model, który będzie sam się ukierunkowywał.
Powrót do góry
Zobacz profil autora
Zobacz poprzedni temat :: Zobacz następny temat  
Autor Wiadomość
szaryobywatel




Dołączył: 21 Wrz 2016
Posty: 5242
Przeczytał: 98 tematów


Płeć: Mężczyzna

PostWysłany: Śro 23:25, 18 Paź 2023    Temat postu:

Banjankri napisał:

szaryobywatel napisał:
Prawdopodobieństwo nowotworu dąży do 100% wraz z wiekiem.

Nie jest to problem nierozwiązywalny, są organizmy, które są praktycznie nieśmiertelne.


Niezbyt złożone organizmy, a nieśmiertelne są "teoretycznie".

Cytat:

Cytat:
to nadal prawdopodobieństwo śmierci dąży do 100% wraz z wiekiem, choćby poprzez rosnące prawdopodobieństwo nabawienia się nieodwracalnych uszkodzeń ciała.

Tylko jeżeli nie masz czegoś co cię chroni i jest w stanie naprawić jak trzeba.


Jeśli masz, nadal dąży do 100% prawdopodobieństwo że w końcu nie zdołasz z jakiegoś powodu. Nic w materialnym świecie nie jest trwałe.

Cytat:

Cytat:
Może dąży wolniej niż prawdopodobieństwo nowotworu, ale nadal. Widzisz pewien związek z tematem SI?

Jak coś chcesz powiedzieć, to pisz wprost, nie krępuj się, bo ta zabawa w "oczywiste" pytania nie działa.


Jeśli coś może pójść nie tak, to w końcu pójdzie nie tak. Napisałbym więcej gdybyś Ty napisał jak sobie ten Eden wyobrażasz.

Cytat:

szaryobywatel napisał:
pamiętaj, regeneracja go nie rozwiązuje

Przypomnij mi jeszcze skąd ty to wiesz. Z własnych przekonań? A wiesz, że komórki rakowe można na nowo przyłączyć do organizmu tak, aby nie były już rakowe? To my ludzie wiemy, a co dopiero SI, która będzie w stanie dokładnie monitorować działanie organizmu na bieżąco.


Wychodzisz poza założenia analogii. Bez interwencji jesteś skazany na raka będąc niestarzejącym się immortalsem.
Powrót do góry
Zobacz profil autora
Zobacz poprzedni temat :: Zobacz następny temat  
Autor Wiadomość
Banjankri




Dołączył: 17 Kwi 2012
Posty: 5300
Przeczytał: 43 tematy


PostWysłany: Pią 7:17, 20 Paź 2023    Temat postu:

szaryobywatel napisał:
Niezbyt złożone organizmy, a nieśmiertelne są "teoretycznie".

Wystarczająco, żeby żyć miliony lat.

Cytat:
Jeśli masz, nadal dąży do 100% prawdopodobieństwo że w końcu nie zdołasz z jakiegoś powodu.

W końcu to nic nie zdoła, tylko kogo interesuje koniec. Liczy się sam fakt istnienia możliwość wydłużenia życia teoretycznie w nieskończoność. Jak dostaniesz taką możliwość, to powiesz, nie bo nic nie jest trwałe?

Cytat:
Jeśli coś może pójść nie tak, to w końcu pójdzie nie tak.

Bezzasadne. Świat nie jest brute forcem prawdopodobieństwa.

Cytat:
Napisałbym więcej gdybyś Ty napisał jak sobie ten Eden wyobrażasz.

Nie ma znaczenia jak ja sobie to wyobrażam, bo to i tak ma się nijak to tego, jak wyobrazi to sobie SI. Najprościej mówić o regeneracji, ale może też być przeniesienie świadomości na niebiologiczne media.

Cytat:
Wychodzisz poza założenia analogii. Bez interwencji jesteś skazany na raka będąc niestarzejącym się immortalsem.


No i właśnie o tej interwencji mówimy, wiec nie wiem dlaczego ją wykluczasz.

Możesz napisać wprost, o co ci chodzi? Boisz się SI, i tego co może zrobić?


Ostatnio zmieniony przez Banjankri dnia Pią 7:18, 20 Paź 2023, w całości zmieniany 1 raz
Powrót do góry
Zobacz profil autora
Zobacz poprzedni temat :: Zobacz następny temat  
Autor Wiadomość
szaryobywatel




Dołączył: 21 Wrz 2016
Posty: 5242
Przeczytał: 98 tematów


Płeć: Mężczyzna

PostWysłany: Sob 1:03, 21 Paź 2023    Temat postu:

Banjankri napisał:
szaryobywatel napisał:
Niezbyt złożone organizmy, a nieśmiertelne są "teoretycznie".

Wystarczająco, żeby żyć miliony lat.


Ale co to ma do rzeczy?

Cytat:

Cytat:
Jeśli masz, nadal dąży do 100% prawdopodobieństwo że w końcu nie zdołasz z jakiegoś powodu.

W końcu to nic nie zdoła, tylko kogo interesuje koniec. Liczy się sam fakt istnienia możliwość wydłużenia życia teoretycznie w nieskończoność. Jak dostaniesz taką możliwość, to powiesz, nie bo nic nie jest trwałe?


No właśnie "teoretycznie", a nie faktycznie teoretycznie. Koniec jest istototny, bo przeczy wieczności, a zdarzyłby się wcześniej niż sądzisz.

Cytat:

Cytat:
Jeśli coś może pójść nie tak, to w końcu pójdzie nie tak.

Bezzasadne. Świat nie jest brute forcem prawdopodobieństwa.


No jak nie jest. Wszystko co ma niezerowe i nie astronomicznie małe prawdopodobieństwo się w końcu zdarzy. A nawet to co ma astronomicznie małe prawdopodobieństwo się zdarzy, jak przypuszczalnie powstanie inteligentnego życia które później tworzy SI.

Cytat:

Cytat:
Napisałbym więcej gdybyś Ty napisał jak sobie ten Eden wyobrażasz.

Nie ma znaczenia jak ja sobie to wyobrażam, bo to i tak ma się nijak to tego, jak wyobrazi to sobie SI. Najprościej mówić o regeneracji, ale może też być przeniesienie świadomości na niebiologiczne media.


No to sporo tu może pójść nie tak (ergo pójdzie), np. degradacja społeczeństwa które przestanie dbać o swój byt nie mając w perspektywie przemijania, nie mówiąc o wpływie na cokolwiek. Dłużej by pociągnęło w symulowanym świecie bez świadomości że żyje w symulacji. Nie mówiąc o tym w co może ewoluować/zdegradować SI zostawiona samopas, rozkminiająca prawa świata i uprawiająca ludzi jak kukurydzę.

Cytat:

Cytat:
Wychodzisz poza założenia analogii. Bez interwencji jesteś skazany na raka będąc niestarzejącym się immortalsem.


No i właśnie o tej interwencji mówimy, wiec nie wiem dlaczego ją wykluczasz.

Możesz napisać wprost, o co ci chodzi? Boisz się SI, i tego co może zrobić?


Nie o interwencji mówiliśmy, tylko o raku jako przykładzie degeneracji. Czy ja się SI boję? Nie, ale zauważam pewne konsekwencje i jakoś niespecjalnie podzielam Twój entuzjazm.
Powrót do góry
Zobacz profil autora
Zobacz poprzedni temat :: Zobacz następny temat  
Autor Wiadomość
Banjankri




Dołączył: 17 Kwi 2012
Posty: 5300
Przeczytał: 43 tematy


PostWysłany: Sob 15:55, 21 Paź 2023    Temat postu:

Nikt nie wie, jak to się potoczy, ale twoje argumenty do mnie nie trafiają.
Powrót do góry
Zobacz profil autora
Zobacz poprzedni temat :: Zobacz następny temat  
Autor Wiadomość
Michał Dyszyński
Bloger na Kretowisku



Dołączył: 04 Gru 2005
Posty: 30692
Przeczytał: 65 tematów

Skąd: Warszawa
Płeć: Mężczyzna

PostWysłany: Wto 11:57, 28 Lis 2023    Temat postu:

Sztuczna inteligencja ma halucynacje. [link widoczny dla zalogowanych]

Sztuczna inteligencja już samodzielnie zabija:
[link widoczny dla zalogowanych]


Ostatnio zmieniony przez Michał Dyszyński dnia Wto 12:21, 28 Lis 2023, w całości zmieniany 1 raz
Powrót do góry
Zobacz profil autora
Zobacz poprzedni temat :: Zobacz następny temat  
Autor Wiadomość
Banjankri




Dołączył: 17 Kwi 2012
Posty: 5300
Przeczytał: 43 tematy


PostWysłany: Wto 12:31, 28 Lis 2023    Temat postu:

Si, nie tylko uczy się na niepewnych danych, ale i jest uczona na błędnych. To jest twuetapowy proces, w którym drugi ma weryfikować odpowiedzi SI. Niestety on też jest automatyczny, na ogromną skalę, dlatego obarczony błędami. SI w formie LLM nie potrafi weryfikować swoich odpowiedzi, może je jedynie nadpisywać. To są jednak problemy kończoncej się ery (która trwała kilkanaście miesięcy), teraz wchodzimy w nową erę. Tak jak wcześniejsze modele były językowe, tak nowe są (będą) modelami matematycznymi, pozwalającymi rozumować. Mamy więc drugą połowę, brakuje już tylko punktu zaczepienia do budowy ego. Kiedy to się odbędzie nie wiem, bo w OpenAI pociągnęli za hamulce, no ale jak nie oni, to ktoś inny. To kwestia czasu.
Powrót do góry
Zobacz profil autora
Zobacz poprzedni temat :: Zobacz następny temat  
Autor Wiadomość
Michał Dyszyński
Bloger na Kretowisku



Dołączył: 04 Gru 2005
Posty: 30692
Przeczytał: 65 tematów

Skąd: Warszawa
Płeć: Mężczyzna

PostWysłany: Nie 17:54, 17 Gru 2023    Temat postu:

[link widoczny dla zalogowanych]
Powrót do góry
Zobacz profil autora
Zobacz poprzedni temat :: Zobacz następny temat  
Autor Wiadomość
Michał Dyszyński
Bloger na Kretowisku



Dołączył: 04 Gru 2005
Posty: 30692
Przeczytał: 65 tematów

Skąd: Warszawa
Płeć: Mężczyzna

PostWysłany: Pią 17:45, 29 Gru 2023    Temat postu:

SI oszukuje, gdy trzeba. [link widoczny dla zalogowanych]
Oczywiście można się było tego spodziewać, że SI nie będzie moralna, etyczna, lecz po prostu będzie OPTYMALIZOWAŁA REAKCJĘ WEDLE ZAPROGRAMOWANYCH PARAMETRÓW. Jeśli parametry będą takie, że oszukiwanie zyska preferencję nad innymi dostosowaniami, to wtedy zastosowanie oszustwa zwyczajnie będzie świadczyło o zrealizowaniu zadania, jakie przed SI postawiono. Nic szczególnego się w tym nie zdarza, to jest dokładnie przewidywalny efekt. Tak samo z resztą działa człowiek, że stara się wybadać znaczenia parametrów sytuacji, składających się na ocenę tej sytuacji, a następnie człowiek tez optymalizuje swoje decyzje stosownie do tego, co ustalił i jak parametry były ustawione.
Powrót do góry
Zobacz profil autora
Zobacz poprzedni temat :: Zobacz następny temat  
Autor Wiadomość
Michał Dyszyński
Bloger na Kretowisku



Dołączył: 04 Gru 2005
Posty: 30692
Przeczytał: 65 tematów

Skąd: Warszawa
Płeć: Mężczyzna

PostWysłany: Śro 13:06, 24 Sty 2024    Temat postu:

Sztuczna inteligencja zawarta w programach do generowania obrazków z tekstu startuje każde zadanie od losowego układu pikseli, aby potem w kolejnych krokach czynić je czymś coraz bardziej podobnym do idei zawartej w opisie słownym. Zastanawiam się, czy tak samo działa też i człowiek?
- Tu wg mnie odpowiedź nie jest jednoznaczna, tzn. czasem działamy bardziej od losowego seeda, a czasem próbujemy start rozumowania od gotowców. Zresztą i programy wykorzystujące SI też działać mogą w tym trybie - przekształcania istniejącego obrazu.
Natomiast niezależnie od tego, z czego rozumowanie (tak SI, jak i ludzkie) startuje, obowiązuje to, iż myślenie będzie próbowało jakoś naginać stan aktualny do idei. Czyżby to oznaczało, że myślenie z natury jest "życzeniowe"?...
- Uważam, że i tak, i nie.
W jednym aspekcie myślenie jest życzeniowe, a w innym już takim nie jest. Myślenie jest swoistą grą, w której nasza życzeniowość jest raz wyciągana, a za chwilę chowana, raz jest jego większy wkład, raz mniejszy.
Powrót do góry
Zobacz profil autora
Wyświetl posty z ostatnich:   
Napisz nowy temat   Odpowiedz do tematu    Forum ŚFiNiA Strona Główna -> Filozofia Wszystkie czasy w strefie CET (Europa)
Idź do strony Poprzedni  1, 2, 3 ... 19, 20, 21
Strona 21 z 21

 
Skocz do:  
Nie możesz pisać nowych tematów
Nie możesz odpowiadać w tematach
Nie możesz zmieniać swoich postów
Nie możesz usuwać swoich postów
Nie możesz głosować w ankietach

fora.pl - załóż własne forum dyskusyjne za darmo
Powered by phpBB © 2001, 2005 phpBB Group
Regulamin