ŚFiNiA

Michał Dyszyński

[link widoczny dla zalogowanych]
Z tego co gdzieś czytałem, to jakaś forma sztucznej inteligencji została powołana na członka rady nadzorczej jednej z firm. Coś już się zaczęło.
Teraz możemy się zastanawiać nad rozwojem dalszej sytuacji - jest coraz więcej sztucznej inteligencji w zarządzaniu firmami. Coraz też bardziej optymalizuje się ta AI na zysku firm (tak w końcu jest projektowana).
W którymś momencie zdominowany przez AI zarząd jakiejś wielkiej firmy "oblicza sobie", że jest 99% szans na duży zysk firmy, ale pozostały 1% szans oznacza zagładę ludzkości. Człowiek pewnie tu by się zawahał, ale sztuczna, zoptymalizowana na zysk (jak i ryzyko), inteligencja uzna, że warto. Jeśliby takich wyborów pojawiło się więcej, to wartość oczekiwana za którymś z nich zacznie się zbliżać przynajmniej do 50%.