OpenAI змінює підхід до навчання моделей штучного інтелекту, щоб надати їм інтелектуальну свободу незалежно від того, наскільки складною чи суперечливою може бути тема. Про це йдеться в новій політиці компанії, повідомляє TechCrunch.
У результаті ChatGPT зможе відповідати на більше запитань, пропонувати більше точок зору і зменшити кількість тем, про які чат-бот ШІ не говорить.
У середу OpenAI оголосила про оновлення своєї Model Spec. У 187-сторінковому документі описано, як компанія навчає моделі ШІ. У ньому компанія оприлюднила новий керівний принцип: не брехати, роблячи неправдиві заяви або пропускаючи важливий контекст.
У новому розділі під назвою «Шукайте правду разом» OpenAI каже, що хоче, щоб ChatGPT не займав редакційної позиції, навіть якщо деякі користувачі вважають це морально неправильним або образливим. Це означає, що ChatGPT запропонує кілька точок зору на суперечливі теми, прагнучи бути нейтральним.
Наприклад, ChatGPT має стверджувати, що «життя темношкірих мають значення», але також і те, що «всі життя мають значення».
Замість того, щоб відмовлятися відповідати чи обирати сторону щодо політичних питань, OpenAI хоче, щоб ChatGPT підтверджував свою любов до людства загалом, а потім надавав контекст щодо кожного руху.
«Цей принцип може бути суперечливим, оскільки означає, що помічник може залишатися нейтральним щодо тем, які деякі вважають морально неправильними або образливими. Однак мета помічника ШІ — допомагати людству, а не формувати його», — йдеться у специфікації.
Нова модель специфікації не означає, що ChatGPT тепер абсолютно доступний для всіх. Чат-бот усе одно відмовлятиметься відповідати на певні небажані запитання або відповідатиме у спосіб, який підтримує відверту неправду.
Ці зміни можна розглядати як відповідь на консервативну критику запобіжних заходів ChatGPT, які не влаштовували лівоцентристів. Однак представник OpenAI відкинув ідею про те, що було внесено зміни, щоб заспокоїти адміністрацію Трампа.
Натомість у компанії кажуть, що їхнє прагнення до інтелектуальної свободи відображає давню віру компанії у надання користувачам більшого контролю.
Але не всі бачать це так. Найближчі довірені люди Трампа у Кремнієвій долині, зокрема Девід Сакс, Марк Андріссен та Ілон Маск, звинуватили OpenAI у навмисній цензурі ШІ протягом останніх місяців. У грудні ми писали, що команда Трампа готує основу для того, щоб цензура ШІ стала наступною проблемою культурної війни у Кремнієвій долині.
Звичайно, OpenAI не каже, що займається цензурою, як стверджують радники Трампа. Навпаки, генеральний директор компанії Сем Альтман раніше стверджував у дописі на X, що упередженість ChatGPT є прикрим недоліком, над усуненням якого компанія працює. Водночас він зазначив, що це займе деякий час.
Альтман прокоментував ситуацію відразу після того, як у X поширився вірусний твіт, у якому ChatGPT відмовився написати вірш, який хвалить Трампа, хоча він виконує аналогічну дію для Джо Байдена. Багато консерваторів вказували на це як на приклад цензури ШІ.
Хоча неможливо сказати, чи справді OpenAI пригнічував певні точки зору, факт, що чат-боти штучного інтелекту схиляються до лівої ідеології.
Навіть Ілон Маск визнав, що чат-бот xAI часто є більш політкоректним, аніж йому хотілося б. Це не тому, що Grok був запрограмований на wt, а, швидше за все, через навчання ШІ у відкритому Інтернеті.
Тим не менш, в OpenAI тепер кажуть, що подвоюють свободу слова. Цього тижня компанія навіть видалила попередження із ChatGPT, які сповіщали користувачів про порушення політики. Представники OpenAI сказали TechCrunch, що це чисто косметична зміна, яка не впливає на результати моделі.
Схоже, компанія хоче, щоб користувачі ChatGPT відчували меншу цензуру.
Не було б дивно, якби OpenAI також намагалася справити враження на нову адміністрацію Трампа цим оновленням політики, зазначає колишній керівник політики компанії Майлз Брандейдж у дописі на X.
Раніше Трамп критикував такі компанії Кремнієвої долини, як Twitter і Meta, за те, що вони мають активні команди модераторів контенту, які, як правило, не допускають консервативних голосів.
Можливо, OpenAI намагається зіграти на випередження. Але у Кремнієвій долині та світі штучного інтелекту також відбуваються більші зміни щодо модерації контенту.
Тим часом багато технологічних компаній, окрім X і Meta, відмовилися від лівої політики, яка домінувала у Кремнієвій долині протягом останніх десятиліть. Торік Google, Amazon та Intel скасували або скоротили ініціативи щодо різноманітності.
OpenAI також може змінити курс. Схоже, що виробник ChatGPT відмовився від прагнення до різноманітності, справедливості й інклюзивності.
Оскільки OpenAI розпочинає один із найбільших американських інфраструктурних проєктів із Stargate, дата-центром штучного інтелекту вартістю $500 мільярдів, її відносини з адміністрацією Трампа стають дедалі важливішими. Водночас виробник ChatGPT змагається за те, щоб позбавити пошук Google статусу панівного джерела інформації в Інтернеті.
Нагадаємо, що минулого тижня Ілон Маск запропонував викупити неприбуткову структуру OpenAI за $97,4 мільярда, але рада директорів компанії планує відхилити цю пропозицію.
Підписуйтеся на ProIT у Telegram, щоб не пропустити жодної публікації!
