Сідд Зетепаллі, співзасновник і технічний директор компанії Vellum — платформи для розробки продуктів ШІ. Він дуже захоплений розробленням продуктів LLM і постійно розширює межі можливого з поточними моделями й техніками.
Сідд закінчив навчання в Массачусетському технологічному інституті, а потім 4 роки працював у відомих технологічних компаніях, таких як Quora та Dover.
Компанія Vellum у цифрах: 130 клієнтів, $1,3 мільйона щорічного регулярного доходу, зростання на 15% щомісяця. Стартап залучив $5 мільйонів вже через 2 місяці після отримання першого клієнта.
— Ви починали працювати з GPT, коли ці моделі ще тільки почали з’являтися. Чи можете пригадати, яким був ваш досвід? Яким було ваше перше запитання?
— Я дійсно почав користуватися великими мовними моделями досить давно, ще до появи ChatGPT. Я використовував GPT-3 приблизно із середини 2020 року, тож коли з’явився ChatGPT, я подумав, що це крутий продукт. Це справді так і є.
Насправді це дуже захопливо, тому що я бачив, як усе прискорюється. Це було просто на крок попереду від усього того, що існувало раніше.
Наприклад, ми використовували text-davinci-003. На той момент це був оригінальний GPT-3. Потім було оновлення 3.5, було оновлення GPT-3.5 turbo.
Я не пам’ятаю точно, що було чотири роки тому. Але тоді не можна було задавати питання безпосередньо, тому що це була просто текстова модель. Це ще не був цей чат-інтерфейс.
Але я пам’ятаю той момент, коли як я вперше отримав доступ. Буквально через 5 хвилин я взяв свій ноутбук і почав показувати всім навколо, мовляв: «О Боже, ви це бачите? Це змінить світ!».
Коли я вперше побачив GPT-3, то не повірив. Я думав, що така технологія буде доступна лише через десятки років. Це фактично повністю змінило моє життя в той момент. Це було найкрутіше з того, що я коли-небудь бачив.
— Як це змінило Ваше життя? Що саме Ви зрозуміли?
— Тоді все виглядало досить ненадійно, було багато обмежень. Але я думаю, що було очевидно навіть тоді, що правильна версія цієї технології, краща версія цієї технології з правильними інструментами, зможе зробити дуже багато речей.
Наприклад, я працював у стартапі з автоматизації підбору персоналу, тож ми займалися автоматизацією рекрутингу для інших компаній. Ми використовували GPT-3 для багатьох завдань. Це вимагало набагато більше майстерності, було значно менш надійним, аніж сучасні моделі.
Сучасні інструменти ще не існували, тому все було набагато важче. Але навіть тоді ми змогли використовувати ШІ для багатьох завдань рекрутингу, оскільки він міг працювати із неструктурованими даними та виконувати завдання загального призначення.
Чому ми використовуємо людей для певних завдань замість комп’ютерів? Тому що іноді важко написати програму для чогось через складність точної специфікації, занадто багато невизначеностей або відсутність структури.
Якщо LLM може це зробити, це означає, що LLM може виконувати багато завдань, для яких ми зараз використовуємо людей. Це фактично примножує сили.
Є рутинні речі, які ми маємо робити вручну сьогодні, оскільки комп’ютери не можуть їх виконати. Але тепер комп’ютери можуть робити деякі з цих речей. Це означає, що ми можемо зосередитися на дійсно цікавих або дуже складних завданнях.
— Як бізнес може використовувати штучний інтелект?
— Це чудове запитання. Зараз наша компаній Vellum, по суті, є платформою для розробки генеративного ШІ від початку до кінця. У нас понад 100 клієнтів, які використовують генеративний ШІ для створення бізнес-цінності у своїх компаніях. Ми бачимо зріз ринку.
Найбожевільніші варіанти використання, які ви можете уявити, від згенерованої ШІ реп-музики до важливих завдань у сфері охорони здоров’я, вилучення інформації з юридичних документів, боти-терапевти, сфера послуг.
Краще запитати, яка компанія не отримає вигоду від використання ШІ? Кожен бізнес, який є досить складним, матиме певні завдання, які сьогодні вимагають участі людей для виконання нудних речей.
Можливо, вам потрібно переглянути документ, витягти всі ці дані й помістити їх в інше місце. Можливо, ви маєте справу з різними документами.
Можливо, вам потрібно відповідати на одні й ті самі запитання клієнтів знову і знову. LLM досить добре справляється з цими питаннями.
ШІ може переглянути будь-які ваші документи, переглянути історію відповідей і потім відповідати на запитання швидше і краще, ніж ви. Будь-який бізнес має подібні завдання.
Наприклад, є завдання, яке ви можете довірити стажеру і ви можете за декілька днів навчити стажера виконувати це завдання, то ви, ймовірно, можете навчити LLM виконувати це завдання досить легко.
Якщо це дуже складне завдання, то це вимагатиме більше роботи. Однак ви, ймовірно, можете навчити LLM виконувати й це завдання також.
З такими речами, як GitHub Copilot, 80% мого коду написано LLM. Я інженер і технічний директор Vellum. Більшість свого часу я проводжу за написанням коду, але більшість цього коду написана Copilot.
Звісно, я переглядаю його і вношу зміни. Виправляю будь-які помилки. Я виконую завдання у три або чотири рази швидше завдяки ШІ. Думаю, більшість людей має такий самий досвід.
— Чи можете Ви розповісти нашій аудиторії трохи більше про вашу компанію? Як Ви починали? Що було Вашим натхненням?
— У 2020 році я працював у стартапі Dover, який займається автоматизацією підбору персоналу. Там я і зустрів своїх двох співзасновників. Ми всі були першими, ми всі пройшли через труднощі використання GPT-3 для різних задач. Це одночасно захопливо й неймовірно розчаровує.
Ми відчули ці труднощі й вирішили: чому б не створити інструменти, які нам дуже потрібні були, коли ми працювали із GPT-3?
Власне, ChatGPT з’явився якраз перед тим, як ми почали працювати над Vellum. Ми подумали: «Ми знаємо, як це зробити, ми працювали з цим багато років. Давайте створимо інструменти, які нам потрібні, і зробимо це так, щоб їх міг використовувати кожен».
Зрештою ми створили трохи інструментів власними силами. Так народився Vellum.
Спочатку Vellum був інструментом для створення підказок, але мета завжди полягала в тому, щоб стати платформою повного циклу для розробки генеративного ШІ.
У нас є все необхідне: від прототипування, інженерії підказок, оцінювання, розгортання, моніторингу, збору метрик до робочих процесів або графіків, де ви послідовно об’єднуєте різні операції, такі як виклики LLM, API, інструменти, агенти.
Отже, те, що ми створили, — це загальний інструмент для створення будь-якого застосунку для вашого бізнесу. Кожен, хто серйозно налаштований впроваджувати LLM у виробництво для вирішення реальних проблем у своєму бізнесі, стане для нас хорошим клієнтом.
Ми бачили, що більшість наших клієнтів швидко переходять до виробництва і досягають успіху, якого вони, можливо, не досягли б інакше.
— Які компанії можуть виграти від використання ШІ?
— Я почну із загальної відповіді й потім перейду до конкретики. У нас є різні клієнти — від стартапів до великих публічних компаній.
Але насправді критерії, які ми використовуємо для визначення, чи буде компанія хорошим клієнтом, це те, чи є у них реальний варіант використання, який вони намагаються запустити у виробництво.
Якщо вони просто експериментують або не серйозно ставляться до питання, наприклад, якщо вони думають: «О, ми повинні використовувати ШІ для чогось», але не знають, для чого саме, тоді, ймовірно, вони не будуть хорошим клієнтом. Вони використовують ШІ для ажіотажу для підвищення вартості акцій компанії, а не для вирішення реальних проблем.
Але якщо вони кажуть: у нас є ця проблема, ми хочемо її вирішити, і ми хочемо запустити це у виробництво, тому що це важливо, тоді вони будуть хорошими клієнтами, і ми зробимо їх успішними.
Більш конкретно, ось випадки, які дуже добре працюють сьогодні. Це, звичайно, не повний список, але це все, що стосується вилучення даних, все, що пов’язане з використанням бази даних, всі ситуації, де потрібно використовувати інструменти для ведення розмови — чати. Усе це працює дуже добре.
Це такі операції, які ви могли б, ймовірно, навчити людину виконувати за день або два. Але, знаєте, у LLM є труднощі з виконанням складного довгострокового планування. Я б не став запитувати, як управляти моїм бізнесом, наприклад.
— Зараз не стали б, а в майбутньому?
— Звісно, в майбутньому я вважаю, що я це зроблю. Думаю, це буде можливо. Йдеться не тільки про LLM. Багато з цього залежить від інструментів і від того, як ви їх використовуєте.
Ми покращуємо інструменти, і не лише ми. Є багато людей у цій сфері, які роблять інструменти набагато кращими. Моделі покращуються, інструменти теж стають кращими, тому вони зможуть виконувати дедалі складніші завдання.
Але сьогодні вже можна виконувати досить складні речі, тому люди завжди дивуються. Вони кажуть: «О, я не знав, що це буде можливе». І ти відповідаєш: «Ну так, просто зробіть це ось так. Можливо, спробуємо таку послідовність кроків або чому б не оновити до нової моделі, яка щойно вийшла, вона значно розумніша».
Кожного дня межа можливостей розширюється. Я думаю, що ця межа значно далі, ніж більшість людей вважає.
— Ви говорите про ШІ з таким натхненням, але чи бачите Ви ризики у використанні штучного інтелекту?
— Я справді казав, що це змінить світ, але це не буде ідеально. Як і з будь-якою великою технологією, будуть як позитивні, так і негативні наслідки.
Звісно, деякі роботи можуть зникнути, але водночас я б сказав, що Інтернет зробив світ кращим. Промислова революція зробила світ кращим.
Ші — це трохи інше, тут більше ризиків. Це не тільки більш потужна технологія. Я думаю, що багато людей, включно зі мною, надають великого значення роботі, яку ми виконуємо.
Якщо роботи для людей стане менше або майже не залишиться, нам, ймовірно, доведеться переосмислити, що має сенс у житті. І це буде щось, що нам потрібно буде разом дослідити як суспільству.
Але я думаю, що цей компроміс мене влаштовує, тому що уявіть собі AGI. Припустимо, у вас є рідкісна хвороба. Ніхто у світі не працює над її лікуванням, тому що, скажімо, світі є лише 400 людей із цією хворобою. Сьогодні це складно, це погано. Але з AGI уявіть собі, що буде через 10 або 15 років у майбутньому. Сподіваюся, що менше, можливо, більше, але я схильний до технооптимізму.
Уявіть, що все, що вам потрібно, — це купа обладнання в якому-небудь дата-центрі та група дослідників, які досліджують якусь рідкісну хворобу.
Дійсно, більшість проблем у світі обмежені кількістю зусиль, які люди здатні докласти для їх вирішення. Тепер ми потенційно можемо докладати необмежених зусиль до будь-якої проблеми.
Уявіть мільйон математиків-докторів наук, які працюють над проблемою 1000 років. Але тепер вирішення зайняло б лише одну ніч у центрі обробки даних. Уявіть, якого прогресу можна було б досягти.
Або уявіть, якби ми могли за вихідні вирішити решту задач фізики за допомогою дуже потужного AGI. Уявіть собі весь прогрес, якого можна було б досягти.
Знаєте, насправді це такий же інструмент, як і будь-який інший. Інструменти, як, наприклад, динаміт, можуть використовуватися для видобутку корисних копалин і для будівництва тунелів для доріг, але також можуть бути використані для створення бомб. Тобто це не є ані добрим, ані поганим.
Наше завдання як людей — зробити з цього щось хороше, а не зробити щось погане. Я думаю, що це буде великим викликом для суспільства.
Доба має лише 24 години, і я не витрачаю весь цей час на роботу. Є мільйон справ, які я міг би робити. Але в мене лише 16–18 годин на справи.
Тобто все, що ми робимо, обмежене кількістю часу і зусиль, які ми можемо вкласти. Але це ось-ось зміниться. І це дуже-дуже захопливо.
— Чи може коли-небудь припинитися розвиток ШІ? Або переродитися у щось інше? У далекому майбутньому, наприклад?
— Кожна парадигма, як і раніше, матиме своє плато. Наприклад, якщо ми не будемо змінювати архітектуру, поточний набір моделей досягне певної межі.
Є певна межа того, наскільки можна розширити модель, витрачаючи більше грошей і більше даних для навчання. Але я думаю, що так не станеться.
Ми будемо вдосконалювати архітектуру, шукати інші покращення. Це вже не кіт у мішку: люди розуміють, як це працює, бо так вже було. Саме в цьому людська сила.
Ми вміємо побачити щось, що не працює, і знайти способи обійти перешкоди, а потім досягати нових висот, потрапляючи на нову криву розвитку, і знову досягати плато, і так далі, поки не досягнемо успіху.
— Тобто розвиток ШІ безкінечний?
— Ну, я не знаю, чи це безкінечно, але, зрештою, біологія змогла створити щось досить інтелектуальне — людський мозок.
Я думаю, що немає сумнівів, що ми зможемо створити комп’ютери, які будуть щонайменше такими ж розумними, як ми. Швидше за все, набагато розумнішими.
— Як Ви використовуєте ШІ у повсякденному житті? Які моделі?
— Я постійно використовую LLM. Багато разів на день. Постійно ставлю запитання із програмування. Наприклад, як це зробити або як прочитати це, щоб виконати певне завдання.
Я постійно використовую їх під час написання коду, не кажучи вже про Copilot для автозаповнення.
Також ми використовуємо LLM для багатьох маркетингових і брендових завдань.
Мій колега Акаш, наприклад, запитував у Claude 3.5 (моделі від Anthropic) придумати 10 кумедних слоганів для нашого вебсайту. Він над цим працює і я думаю, що він змінить секцію нашої маркетингової сторінки на один з цих слоганів, оскільки вони були досить хорошими. Не пам’ятаю точно, які саме, але в цілому вони дуже креативні, або принаймні креативніші за мене. Це справді вражає.
Як я вже сказав, в основному я використовую Copilot, а потім просто спілкуюся з LLM, коли це стосується програмування.
Сподіваюся, що в майбутньому я зможу використовувати їх і в інших сферах свого життя. Але, чесно кажучи, я більшість часу проводжу на роботі, тому Copilot і запити до моделей про код — це те, що я використовую найчастіше.
— Чи не боїтеся Ви, що ШІ замінить людські взаємодії, справжню креативність і все інше, що справді робить наше життя значущим? Може бути, що це стане чимось на кшталт «Чорного дзеркала», де з часом такі застосунки будуть усюди?
— Зрештою, я не думаю, що люди обирають для себе щось погане. Люди не будуть ставити себе в гірші умови. Тому, якщо це і відбудеться, це не буде в тому сенсі, що ніхто не захоче спілкуватися один з одним і всі будуть супер депресивні.
Можливо, це буде так, що, наприклад, ти дивишся улюблений фільм, але можеш спілкуватися з персонажами. І можеш сказати: «Я хочу новий епізод улюбленого шоу, але хочу, щоб сталося ось це». Або: «О, мені не сподобався цей епізод, я б хотів, щоб персонаж не помирав».
Уявіть, що світ стане набагато інтерактивнішим. І, я, наприклад, не думаю, що захочу замінити свою дівчину на ШІ-дівчину.
Є щось особливе в тому, щоб спілкуватися із живою людиною. Можливо, ШІ може бути смішнішим і розумнішим, ніж більшість людей, з якими я спілкуюся сьогодні, але це не те ж саме.
Я б все ж віддав перевагу реальному спілкуванню, адже люди, які живуть сьогодні, цінують те, що не є ШІ, цінують взаємодію із живою реальною особою.
Я не можу передбачити, як буде через 100 років. Можливо, діти того часу не будуть турбуватися про це, але я дбаю про це.
Я б віддав перевагу спілкуванню з реальною людиною, навіть якщо вона не така розумна чи смішна, як штучний інтелект. Це не велика проблема. Я думаю, що місце є і для людей, і для ШІ.
Підписуйтеся на ProIT у Telegram, щоб не пропустити жодної публікації!
