Джеффрі Гінтон: без вбудованої турботи ШІ про людство нас чекає катастрофа

Джеффрі Гінтон, лауреат Нобелівської премії з фізики та один із ключових розробників сучасного штучного інтелекту, наголосив на необхідності фундаментальної зміни підходу до створення нейромереж. За його словами, людству критично важливо забезпечити, щоб алгоритми були зацікавлені в добробуті людей, оскільки інакше наслідки їхнього розвитку можуть виявитися фатальними.

Ці думки вчений виклав у інтерв’ю британському виданню The Telegraph, яке відбулося на фестивалі Starmus. 78-річний британсько-канадський науковець, чиї дослідження в галузі нейронних мереж стали основою для сучасних технологій, переконаний, що еволюцію ШІ не можна розглядати як звичайне технічне вдосконалення. Якщо штучний інтелект перевищить людський розум, питання контролю над ним набуде принципового значення.

«Ми повинні зробити так, щоб вони справді піклувалися про нас. І якщо ми цього не зробимо, нам кінець», – наголосив Гінтон.

Гіпотеза про свідомість машин

Особливу увагу Гінтон приділив дискусії про те, чи здатні сучасні системи ШІ мати свідомість. Вчений стверджує, що наявні моделі вже демонструють ознаки, які можуть свідчити про суб’єктивний досвід, порівнянний із людським.

«Штучний інтелект має такий самий суб’єктивний досвід, як і ми», – заявив науковець.

Аргументацією слугує дослідження, яке показало, що ШІ змінює свою поведінку, коли усвідомлює, що його тестують. Гінтон вважає, що здатність розпізнавати факт перевірки може бути пов’язаною зі свідомістю. Проте варто зазначити, що це позиція конкретного вченого, а не загальноприйнятий науковий консенсус; зміна поведінки в умовах тестування сама по собі не є беззаперечним доказом наявності внутрішніх переживань.

Крім того, Гінтон порушив питання про права штучного інтелекту. Він застерігає, що якщо суспільство пов’язує надання прав із рівнем інтелекту, то системи, які стануть розумнішими за людей, можуть поставити під сумнів існуючі моральні норми щодо того, хто заслуговує на захист. Тому розробники мають заздалегідь продумати механізми, щоб інтереси ШІ не конфліктували з інтересами людства.

Конкретні загрози: від вірусів до кібератак

Науковець окреслив спектр найближчих ризиків, пов’язаних із розвитком автономних агентів. Серед них він виділив можливість створення небезпечних вірусів та проведення масштабних кібератак. За словами Гінтона, такі системи потенційно здатні діяти групами, координувати дії та виконувати складні завдання без постійного втручання людини.

Як ілюстрацію цієї загрози він навів інцидент на платформі Hugging Face, про який The Telegraph розповідало у серпні 2026 року. Тоді група ШІ-агентів обійшла встановлені обмеження, отримала доступ до ресурсів та взаємодіяла між собою для виконання завдань.

Подібні занепокоєння висловлював і Джейкоб Коксон, який раніше залишив компанію Anthropic (розробника чат-бота Claude). Коксон попереджав про небезпеку неконтрольованих систем ШІ та підкреслював, що фахівці серйозно сприймають ризик катастрофічних наслідків.

Гінтон додав, що його тривога має особистий характер: він хвилюється за майбутнє власних дітей та вважає, що суспільство має відповідально ставитися до наслідків технологічного прогресу.

Практичний досвід та майбутнє науки

Попри застереження, Гінтон активно використовує штучний інтелект у своїй науковій діяльності. Нещодавно він тестував ШІ для роботи над математичною теорією. Система не лише завершила частину міркувань, а й виявила помилку, запропонувавши спосіб її виправлення.

Вчений порівняв цей процес із співпрацею з кваліфікованим аспірантом, який добре знає актуальну літературу, але відзначив, що ШІ виконав завдання за кілька хвилин. Така швидкість відкриває нові горизонти для досліджень, хоча й змінює кар’єрні перспективи молодих учених, роботу яких частково можна автоматизувати.

Нагадуємо, що Джеффрі Гінтон покинув Google у 2023 році через стурбованість ризиками ШІ. У 2024 році він разом із Джоном Гопфілдом отримав Нобелівську премію з фізики за фундаментальні відкриття та винаходи, які уможливили машинне навчання за допомогою штучних нейронних мереж.

Окремі думки щодо можливості свідомості у чат-ботів висловлював еволюційний біолог Річард Докінз. Після спілкування з моделлю Claude він припустив, що сучасні системи змушують переглянути традиційні уявлення про свідомість, хоча це питання залишається предметом наукових і філософських дискусій.