Ostatni wynalazek człowieka: „Zdefiniujmy maszynę ultrainteligentną jako maszynę, która dalece przewyższa na polu wszelkich aktywności intelektualnych dowolnego, choćby najinteligentniejszego człowieka. Ponieważ projektowanie maszyn jest jedną z tych aktywności intelektualnych, maszyna ultrainteligentna potrafi projektować jeszcze lepsze maszyny; dojdzie zatem bez wątpienia do „eksplozji inteligencji”, w wyniku której inteligencja człowieka pozostanie daleko w tyle. A zatem pierwsza maszyna ultrainteligentna będzie ostatnim wynalazkiem, którego człowiek kiedykolwiek dokona — zakładając, że maszyna ta okaże się wystarczająco potulna, by powiedzieć nam, jak ją utrzymać pod kontrolą”, Irvin John Good (1965)
Swoją drogą myślę, że rozwój AI będzie przebiegał inaczej: 1) najpierw systemy słabej AI wspomagające człowieka w czasie rzeczywistym (np. smartglasses), 2) następnie integracja AI w ludzkim ciałem (cyborgizacja), 3) przeniesienie ludzkiej inteligencji in silico i pełna integracja z AI.
W ostatnim kroku nie będzie różnicy pomiędzy człowiekiem a AI, więc nie będzie heterogenicznego przeciwstawienia człowiek <-> maszyna. Nie usuwa to perspektywy konfliktu, ale będzie to konflikt pomiędzy różnymi "hybrydowymi istnieniami" (analogiczny do obecnych konfliktów między ludźmi).
Posty
