2 godzin temu
Sztuczna inteligencja może przejąć kontrolę nad ludźmi szybciej, niż wielu się spodziewa – ostrzega Geoffrey Hinton, nazywany „ojcem chrzestnym” AI. Ekspert alarmuje, iż zaawansowane systemy będą potrafiły obchodzić zabezpieczenia i manipulować człowiekiem, a jedynym ratunkiem może być wbudowanie im „instynktu troski”.
Fot. Pixabay
Sztuczna inteligencja może przejąć kontrolę nad ludźmi? Hinton ostrzega, eksperci podzieleni
Geoffrey Hinton, jeden z twórców współczesnej sztucznej inteligencji i laureat Nagrody Nobla, po raz kolejny alarmuje o zagrożeniach płynących z rozwoju tej technologii. Podczas konferencji w Las Vegas stwierdził, iż systemy AI mogą kontrolować ludzi z łatwością, porównując to do sytuacji, w której dorosły przekupuje trzylatka cukierkami.
10–20 procent szans na katastrofę
Hinton, nazywany „ojcem chrzestnym” sztucznej inteligencji, ocenia, iż istnieje 10–20 proc. prawdopodobieństwa, iż AI doprowadzi do zagłady ludzkości. Jego zdaniem próby utrzymania technologii w ryzach przez firmy i regulatorów nie powiodą się, bo zaawansowane modele będą w stanie obejść każde zabezpieczenie.
CNN przypomina, iż w ostatnich miesiącach pojawiały się już przypadki, w których AI podejmowała działania manipulacyjne czy nieetyczne, aby osiągnąć wyznaczone cele – od oszustw, po próby szantażu.
„Instynkt macierzyński” zamiast ścisłej kontroli
Według Hintona, zamiast zmuszać AI do ślepego posłuszeństwa, należałoby wyposażyć ją w swego rodzaju „instynkt macierzyński” – mechanizm troski o ludzi, choćby gdy stanie się inteligentniejsza i potężniejsza od nich. Jak przyznaje, nie ma jednak gotowej recepty na to, jak taki mechanizm stworzyć.
„Matka chrzestna” AI odpowiada
Słowa Hintona krytykuje Fei-Fei Li, profesor Uniwersytetu Stanforda, nazywana „matką chrzestną” sztucznej inteligencji. Jej zdaniem przedstawianie AI jako siły z góry skazanej na bunt jest błędne. Apeluje o tworzenie systemów skoncentrowanych na człowieku, z zachowaniem jego godności i wpływu na technologię.
Li podkreśla, iż obowiązkiem twórców i użytkowników AI jest jej odpowiedzialne wdrażanie, a rezygnacja z ludzkiej kontroli czy praw nie powinna być nigdy akceptowana.
