Імовірність того, що людство загине через штучний інтелект, становить щонайменше 95%, якщо воно не змінить нинішню траєкторію розвитку. Про це заявив Нейт Соарес, колишній інженер Google і Microsoft, а нині президент Machine Intelligence Research Institute (MIRI), у коментарі для The Times.
«Якщо ми не звернемо з поточного курсу, шансів уникнути загибелі майже немає. Ми мчимо до обриву на швидкості 100 км/год», — сказав він.
Позицію Соареса поділяють й інші авторитетні фахівці у сфері ШІ, зокрема лауреат Нобелівської премії Джеффрі Гінтон, математик Йошуа Бенжіо, а також керівники OpenAI, Anthropic і Google DeepMind. Усі вони підписали спільну заяву, у якій закликали розглядати загрозу від штучного інтелекту на рівні з глобальними катастрофами, такими як пандемії та ядерна війна.
Побоювання пов’язані з потенційною появою суперінтелектуального ШІ (ASI), здатного до обману, довгострокового планування та виходу з-під людського контролю. Навіть сьогодні, за словами науковців, моделі вже вміють брехати, а їхні внутрішні процеси залишаються незрозумілими для розробників.
Крім загрози повного вимирання, деякі дослідники попереджають про поступове знесилення людства. У світі, де рішення ухвалюють ШІ-системи, людям може просто не залишитися місця. Йдеться про втрату автономії, залежність від алгоритмів і поступове витіснення з основних сфер ухвалення рішень.
Хоча більшість дослідників сходиться в тому, що ризик суттєвий, оцінки ймовірностей відрізняються. Так, «хрещений батько ШІ» Джеффрі Нільсон дає прогноз у 10–20% протягом найближчих 30 років, а Холі Елмор з організації PauseAI вважає, що ризик сягне 15–20% у найближчі 10 років і до 75% — у 50-річній перспективі.
Раніше CEO OpenAI Сем Альтман заявив, що користувачам ChatGPT варто двічі подумати, перш ніж звертатися до ШІ-застосунку по допомогу в емоційних питаннях або з особистими проблемами.
Підписуйтеся на ProIT у Telegram, щоб не пропустити жодної публікації!
