PILNE! - nagłówek jak z faktu 🤣

Yoshua Bengio, laureat Nagrody Turinga i pionier deep learningu, mówi, że tempo rozwoju zaawansowanej AI "nie daje mu spać po nocach”. Podkreśla, że po latach entuzjazmu skupił się dziś niemal wyłącznie na badaniach nad bezpieczeństwem, bo obecne systemy mogą wymykać się ludzkiemu nadzorowi. Wskazuje trzy główne kategorie ryzyka: niezamierzone awarie, złowrogie użycie (deepfake’i, automatyczne cyberataki, manipulacja informacją) oraz efekty systemowe, jak utrata miejsc pracy. Najbardziej niepokoją go scenariusze katastrofalne - od tworzenia patogenów po wpływanie na systemy krytyczne, które mogą mieć charakter egzystencjalny.

Jako przeciwwagę proponuje model nieagentowy, który analizuje i wyjaśnia świat zamiast działać autonomicznie. Bengio apeluje o silniejsze regulacje i globalną współpracę, pozostając ostrożnym optymistą, bo rządy już korzystają z koordynowanego przez niego raportu o bezpieczeństwie AI.

źródło

pdf zawiera przetłumaczony artykuł

15 comments