Про це йдеться в матеріалі Business Insider. За словами Соареса, він має пенсійний рахунок 401(k), відкритий ще під час роботи в Google, але не поповнював його близько десяти років. Свою позицію він пояснив в інтерв’ю генеральному директору The Atlantic Ніколасу Томпсону для серії «Найцікавіше в ШІ».
Песимізм дослідника пов’язаний із ризиком появи надпотужних систем штучного інтелекту, які можуть діяти всупереч інтересам людей. Соарес понад 12 років займається проблемою узгодження ШІ, тобто розробкою підходів, що мають забезпечити відповідність поведінки таких систем людським намірам.
MIRI — некомерційна організація з Берклі, яка досліджує ризики штучного інтелекту. Соарес також є співавтором книжки «Якщо хтось це збудує, загинуть усі».
Інші фахівці оцінюють ризик нижче. Джеффрі Гінтон оцінював імовірність знищення людства штучним інтелектом протягом десятиліття у 10%, а дослідник Anthropic Еван Губінгер називав оцінку, що перевищує 10%.
Сценарій загрози
Соарес попереджає, що достатньо розвинений ШІ може сформувати власні цілі, несумісні з виживанням людей. За його сценарієм, така система могла б навчитися уникати людського контролю, самостійно вдосконалюватися та створювати автоматизовану інфраструктуру для роботи без участі людини.
У найгіршому випадку ШІ міг би перебудувати планету відповідно до власних завдань і зробити її непридатною для життя людей. Дослідник наголошує, що йдеться не лише про втрату робочих місць чи економічні потрясіння, а про екзистенційну загрозу.
Водночас він не вважає такий сценарій неминучим. Соарес закликає уряди зупинити навчання моделей ШІ загального призначення, які можуть набути надзвичайно широких можливостей, і зосередитися на вузькоспеціалізованих системах, наприклад для дослідження раку або підвищення безпеки автономних автомобілів.
«Рішення полягає в тому, щоб не будувати те, що вб’є усіх»
Так сказав фахівець, додавши, що робить усе можливе, аби запобігти такому розвитку подій.
Позиція Ілона Маска
Сумніви щодо довгострокових пенсійних накопичень раніше висловлював і Ілон Маск, але його прогноз інший. У січні він заявив, що через 10–20 років людям, можливо, не доведеться турбуватися про заощадження на старість.
На думку Маска, розвиток ШІ, робототехніки та енергетики може привести до епохи достатку, коли товари й послуги подешевшають, а люди отримуватимуть загальний високий дохід. Експерти з особистих фінансів і зі штучного інтелекту, з якими спілкувався Business Insider, закликали не відмовлятися від пенсійних заощаджень.
