Поки Китай демонструє конкурентоспроможність відкритих AI-моделей, випустивши DeepSeek, Франція показує, що розробка подібних рішень може бути не такою простою. Про це повідомляє The Register.
Компанія Linagora Group разом із консорціумом OpenLLM-France минулого четверга представила відкритий чат-бот Lucie. Проте вже в суботу онлайн-версію Lucie було відключено, оскільки бот почав давати дивні та некоректні відповіді.
Чат-бот припустився низки грубих помилок:
- Відмовлявся вирішувати математичні задачі, посилаючись на необхідність збереження нейтральності.
- Давав неправильні розв’язки навіть простих прикладів.
- Пропонував рецепти приготування наркотиків.
- Рекомендував коров’ячі яйця як корисний харчовий продукт.
Оскільки це тривало 3 дні, розробники вирішили тимчасово закрити доступ до Lucie. Вебверсія бота поки залишається недоступною.
Linagora пояснила, що сталося
У компанії Linagora визнали, що не змогли належним чином пояснити обмеження моделі.
Серед головних проблем є такі:
- Lucie — це дослідницький проєкт, який ще не адаптовано для навчальних або комерційних потреб.
- Модель не проходила навчання на основі зворотного зв’язку з людьми (RHLF) та не має вбудованих фільтрів, які б контролювали точність відповідей.
- Lucie — це мовна модель, а не модель знань, тому її відповіді можуть бути неточними або необ’єктивними.
- Запуск Lucie виявився передчасним, оскільки етап інструктажу був завершений лише частково.
«Ми помилково вирішили, що публічний запуск Lucie можливий у межах відкритої співпраці та спільного розвитку open-source проєктів», — заявили у Linagora.
Чому Lucie запустили занадто рано?
Розробники пояснили, що головною метою відкритого тестування Lucie було привернення уваги до проєкту і збір додаткових мовних даних для навчання моделі.
Великі технологічні компанії використовують англомовні корпуси, які значно більші за доступні франкомовні дані. Тому Linagora вирішила запустити Lucie для розширення бази навчальних даних французькою мовою.
«Ми усвідомлюємо, що поточна версія Lucie має незадовільні можливості логічного мислення (зокрема, в математиці) та генерації коду. Ми мали попередити користувачів про ці обмеження, щоб уникнути зайвих очікувань», — визнали розробники.
Хоча Lucie більше не доступний у вебверсії, його нейронні мережі залишаються відкритими. Модель можна завантажити з Hugging Face під ліцензією Apache 2.0.
Код навчання та запуску Lucie також доступний на GitHub під різними open-source ліцензіями.
Lucie vs. Google Bard: фінансові втрати від помилок AI
Збій Lucie не спричинив серйозних фінансових наслідків, на відміну від інших AI-проєктів:
- У 2023 році Google Bard спричинив падіння акцій Alphabet на $120 мільярдів через неточність відповідей.
- У 2024 році Google довелося призупинити роботу Gemini через помилки в обробці історичних зображень.
- У 2016 році Microsoft закрила чат-бот Tay після того, як він почав генерувати расистські висловлювання.
Хоча Lucie став об’єктом насмішок, у Франції знайшлося багато захисників цього проєкту.
Деякі французькі експерти вважають, що Lucie — це важливий крок до технологічної незалежності Європи.
Керівник компанії Polaria Сиріл де Соуза Кардозо заявив:
«Не час для беззмістовного висміювання. Франція і Європа борються за технологічну незалежність перед новою хвилею американського тиску. Ті, хто насміхається, чи усвідомлюють, чиї інтереси вони захищають? Це серйозне питання. Йдеться про наше майбутнє».
Попри невдалий запуск, Lucie залишається важливим експериментом у сфері відкритого штучного інтелекту. Французький уряд та розробники проєкту бачать у ньому можливість посилити європейську присутність у сфері AI і зменшити залежність від американських технологій.
Lucie, можливо, повернеться в оновленій версії, але поки що його творці отримали важливий урок про необхідність ретельного тестування перед публічним запуском.
Раніше ми повідомляли, що китайська технологічна компанія Alibaba представила оновлену версію своєї AI-моделі Qwen 2.5, заявивши, що вона перевершує DeepSeek-V3 — одну з найпопулярніших AI-моделей останнього часу.
Читайте також на ProIT: OpenAI представила ChatGPT Gov для державних установ США.
Підписуйтеся на ProIT у Telegram, щоб не пропустити жодної публікації!
