McKinsey and Company – фірма з майже столітньою історією, яка є однією з найбільших консалтингових агенцій у світі, нещодавно потрапила у заголовки новин, заявивши, що майже половина її співробітників використовує ШІ. Про це пише Venture Beat.
Зараз компанія дебютує з власним інструментом ШІ під назвою Lilli – новою програмою чату для співробітників, розробленою командою ClienTech McKinsey під керівництвом головного технічного директора (CTO) Джекі Райта.
Інструмент надає інформацію, статистичні дані, плани й навіть рекомендує внутрішніх експертів для консультаційних проєктів. Усе це на основі понад 100 тисяч документів і стенограм інтерв’ю.
«Якщо б ви могли поставити запитання всім експертам McKinsey у сукупності, а ШІ міг би відповісти, як би це було? Це саме те, що таке Lilli», – сказав у відеоінтерв’ю VentureBeat старший партнер McKinsey Ерік Рот, який керував розробкою продукту.
Його названо на честь Ліліан Домбровскі – першої жінки, яку McKinsey найняв на посаду (це було у 1945 році). Lilli перебуває в бета-версії з червня 2023 року й буде розгорнуто в McKinsey вже восени.
Ерік Рот повідомив, що нині Lilli використовують приблизно 7 тисяч співробітників як «мінімально життєздатний продукт» (MVP). Також вже скоротився час, витрачений на дослідження і планування.
«Лише за останні два тижні Lilli відповіла на 50 тисяч запитань. 66% користувачів звертаються до чат-бота по кілька разів на тиждень», – зазначив він.
Інтерфейс Lilli схожий на ChatGPT від OpenAI та Claude 2 від Anthropic. Однак є кілька функцій, які відразу виділяються з точки зору додаткової корисності: Lilli також містить розширювану ліву бічну панель зі збереженими підказками, які користувач може скопіювати, вставити та змінити на свій смак. Незабаром на платформі з’являться й категорії для цих підказок.
Інша відмінність полягає у пошуку джерел: хоча багато LLM спеціально не цитують джерела та не посилаються на джерела, на основі яких вони черпають свої відповіді (за винятком Bing), Lilli надає цілий окремий розділ «Джерела». Під кожним – одна відповідь разом із покликаннями й навіть номерами сторінок, з яких модель отримала свою відповідь.
«Ми використовуємо повну атрибуцію. Клієнти, з якими я спілкувався, дуже раділи цьому», – сказав Ерік Рот.
Маючи таку кількість доступної інформації, для виконання яких завдань найкраще підходить новий ШІ Lilli від McKinsey?
За словами Рота, він передбачав, що консультанти McKinsey використовуватимуть Lilli майже на кожному етапі своєї роботи з клієнтом – від збору первинних досліджень до розробки планів щодо того, як клієнт може реалізувати конкретні проєкти.
Крім того, він розповів, що компанія експериментує з функціями завантаження клієнтської інформації та документації для безпечного приватного аналізу на серверах McKinsey. І додав, що ця функція все ще розробляється й не буде розгорнута, доки її не удосконалять.
«Lilli має змогу завантажувати клієнтські дані дуже безпечно і надійно. Ми можемо подумати про сценарії використання в майбутньому, коли будемо об’єднувати наші дані з даними наших клієнтів або просто використовувати дані наших клієнтів на одній платформі для більшого синтезу та дослідження… Усе, що ми завантажуємо у Lilli, проходить повну перевірку, оцінку ризиків комплаєнсу, включно з нашими власними даними», – зазначив Ерік Рот.
Lilli використовує доступні на цей час LLMs, у тому числі розроблені партнером McKinsey Cohere, а також OpenAI на платформі Microsoft Azure.
«Ми вважаємо Lilli власним стеком, – сказав посадовець. – Тож його власний рівень знаходиться між корпусом і LLM. У нього дійсно є можливості глибокого навчання. Є модулі, які можна навчати, але це комбінація технологій, яка об’єднується, щоб створити стек».
Хоча компанія прагне розширити використання власного генеративного інструменту ШІ для всіх співробітників, Ерік Рот зазначив, що McKinsey не виключає білого маркування Lilli або його перетворення на зовнішній продукт для використання клієнтами McKinsey чи іншими фірмами.
«Нині тривають дискусії. Я особисто вважаю, що кожна організація потребує версії Lilli», – наголосив він.
Раніше ми писали, що генеративний ШІ може приносити світовій економіці від $2,6 до $4,4 трлн на рік.
