Anthropic: як AI safety став частиною позиціонування компанії

Коли в 2020 році група дослідників покинула OpenAI, багато хто в індустрії сприйняв це як чергову кадрову пертурбацію в конкурентному середовищі. Насправді це був початок однієї з найцікавіших історій сучасного технологічного бізнесу: Anthropic — компанії, яка зробила безпеку штучного інтелекту не піар-додатком до продукту, а самим продуктом і сенсом існування. Розуміння того, як Anthropic працює і чому її позиціонування побудоване саме так, допомагає краще орієнтуватися в ринку ШІ загалом: хто є хто, чим моделі відрізняються і які обіцянки стоять за гучними заявами про «безпечний ШІ».

Що таке Anthropic простими словами

Anthropic — це американська компанія зі штаб-квартирою в Сан-Франциско, яка розробляє великі мовні моделі під брендом Claude і досліджує безпеку штучного інтелекту. Якщо пояснювати максимально просто: Anthropic створює чат-ботів і моделі ШІ, схожі за класом на ChatGPT, але будує весь свій бізнес навколо тези, що потужні моделі мають бути передбачуваними, контрольованими й чесними щодо власних обмежень. Цей сегмент входить до ширшого атласу технології та інновації, який охоплює AI, хмари, чипи, кібербезпеку, роботів і deep tech.

Назва компанії відсилає до слова «антропічний» — пов’язаного з людиною. Це не випадковість: із самого заснування Anthropic заявляла, що її місія — забезпечити, щоб розвиток ШІ відбувався в інтересах людства, а не лише в інтересах тих, хто контролює найпотужніші обчислення. Формально місія звучить як відповідальна розробка трансформативного ШІ з пріоритетом безпеки, і ця формулювання повторюється майже в усіх публічних матеріалах компанії.

Важливий нюанс, який часто втрачається в переказах: Anthropic — не некомерційна організація і не дослідницька лабораторія за університетом. Це комерційна компанія з венчурним фінансуванням у мільярди доларів, яка продає доступ до своїх моделей підприємствам і розробникам. Саме поєднання амбітного комерційного бізнесу з риторикою обережності й робить її випадок унікальним для індустрії.

Історія Anthropic: розкол усередині OpenAI

Історія компанії починається з конфлікту бачень. Даріо Амодей, співзасновник і генеральний директор Anthropic, раніше очолював дослідження в OpenAI і був одним із ключових авторів робіт про масштабування мовних моделей. Його сестра Даніела Амодей відповідала в OpenAI за безпеку та політику. Наприкінці 2020 року вони разом із групою колег — загалом кілька провідних дослідників — пішли з OpenAI через незгоду з тим, як організація розвивалася після угоди з Microsoft і переходу до комерційної моделі.

Суть розбіжностей стосувалася темпу і пріоритетів. Частина команди вважала, що комерціалізація потужних моделей випереджає наукове розуміння їхньої поведінки, і що питання безпеки перетворюються на другорядні поруч з гонкою за виручкою та партнерами. У 2021 році вони заснували Anthropic як незалежну компанію, де дослідження безпеки мали бути не відділом комплаєнсу, а основним напрямом роботи.

Перші пару років Anthropic працювала відносно тихо: публікувала наукові статті про інтерпретованість нейронних мереж, вирівнювання моделей і шкідливу поведінку ШІ, не випускаючи масового продукту. Це створило компанії репутацію «дослідницької лабораторії», яка дещо відставала в продуктовій гонці. Ситуація змінилася у 2023 році з запуском Claude — спочатку обмежено, потім у вигляді повноцінного чат-бота та API. З того моменту Anthropic остаточно перейшла в категорію компаній, що будують так звані frontier models — найпотужніші моделі свого покоління. Про схожий шлях дослідницької лабораторії до великих продуктових моделей розповідає історія Google DeepMind.

Парадокс історії Anthropic у тому, що вона відтворила багато елементів історії самої OpenAI: заснована людьми, які пішли через страх перед неконтрольованою комерціалізацією, вона сама залучила десятки мільярдів доларів інвестицій і будує бізнес на тих самих типах моделей. Прихильники вважають це доказом того, що безпеку можна сумістити з бізнесом. Скептики — що гравітація капіталу зрештою діє на всіх однаково.

Як AI safety став ядром позиціонування

У більшості технологічних компаній безпека продукту — це функція: юристи, модерація, комплаєнс. В Anthropic AI safety оформлено як ідентичність бренду, стратегію найму, наукову програму й аргумент продажу одночасно. Це видно на кількох рівнях.

По-перше, дослідницька програма. Anthropic системно публікує роботи про механістичну інтерпретованість — спроби зрозуміти, що саме відбувається всередині нейронної мережі, які «ознаки» і патерни вона кодує. Це фундаментально інша постановка задачі, ніж просто зробити модель точнішою: мета — зробити її зрозумілою, щоб потенційно небезпечну поведінку можна було помітити до розгортання, а не після інциденту.

По-друге, методологія навчання. Найвідоміша розробка компанії — Constitutional AI, підхід, у якому модель під час тренування керується явним набором принципів («конституцією»): не допомагати зі шкідливими діями, бути чесною щодо невизначеності, уникати дискримінаційних відповідей. Замість того щоб покладатися лише на тисячі людей-оцінювачів, модель частково навчається критикувати й виправляти власні відповіді за цими принципами. Деталі реалізації змінюються від версії до версії, але сама ідея «ШІ, якого навчають за писаними правилами» стала візитівкою Anthropic.

По-третє, корпоративна структура. Anthropic зареєстрована як Public Benefit Corporation — форма, яка в законодавстві США дозволяє компанії поруч із прибутком акціонерів закріплювати суспільну мету в статутних документах. Додатково компанія створила механізм Long-Term Benefit Trust — траст із повноваженнями щодо призначення частини ради директорів, покликаний страхувати місію від чисто фінансових рішень. Наскільки такі конструкції витримають тиск інвесторів у довгій перспективі — відкрите питання, але сам факт їхнього існування є частиною позиціонування.

По-четверте, публічна комунікація. Керівництво Anthropic регулярно говорить про ризики потужного ШІ більш прямо, ніж конкуренти: Даріо Амодей публікував розгорнуті есе як про можливості технології, так і про сценарії, в яких моделі виходять з-під контролю. Компанія також випустила Responsible Scaling Policy — документ, що пов’язує рівень допустимих можливостей моделі з рівнем доведених заходів безпеки. Фактично це добровільне зобов’язання гальмувати власний прогрес, якщо безпека не встигає за можливостями — риторично дуже сильний хід.

Важливо розуміти: AI safety для Anthropic — це ще й ринкова диференціація. У продажах корпоративним клієнтам аргумент «наша модель передбачуваніша, менше схильна до шкідливих відповідей і краще документована» працює на довіру, а довіра у сегменті банків, медицини та держсектору конвертується в контракти. Безпека тут — одночасно переконання й комерційна перевага.

Як працює Claude і чим підхід відрізняється

Claude — це сімейство великих мовних моделей Anthropic, доступне через вебчат, мобільні застосунки та API. Як і інші моделі цього класу, Claude тренується на величезних обсягах тексту та інших даних і працює за принципом передбачення наступного фрагмента, але «характер» моделі формується на етапі післятренування — саме там застосовуються принципи Constitutional AI і зворотний зв’язок від людей.

Практичні відмінності, які помічають користувачі та розробники:

• обережність у відповідях: Claude частіше відмовляється від сумнівних запитів і чіткіше позначає власну невпевненість, що деяким здається пересторогою, а корпоративним клієнтам — перевагою;
• робота з довгими документами: моделі Claude з ранніх версій позиціонувалися на обробку великих контекстів — юридичних договорів, звітів, кодових баз;
• стиль письма: модель часто хвалять за природніший, менш «канцелярський» тон у порівнянні з конкурентами, хоча це суб’єктивна оцінка;
• орієнтація на інструментальне використання: API та інтеграції для розробників, включно зі сценаріями, де модель виконує послідовність дій як агент.

Лінійка моделей будується за принципом трьох рівнів — компактна швидка модель, збалансована і флагманська (у різних поколіннях вони називалися Haiku, Sonnet і Opus). Така градація типова для ринку: вона дозволяє клієнту платити за рівень інтелекту моделі пропорційно складності задачі — від простої класифікації текстів до складного аналізу чи програмування.

Чесне застереження: жоден із підходів до безпеки не є гарантією. Constitutional AI зменшує частоту небажаних відповідей, але не усуває їх повністю; моделі все ще можуть «галюцинувати» факти, помилятися в міркуваннях і поводитися непередбачувано на нестандартних запитах. Сама Anthropic про це відкрито пише в системних картках своїх моделей — що, втім, теж частина її позиціонування чесності.

Інвестиції, партнерства і гонка обчислень

Навчання моделей прикордонного рівня коштує сотні мільйонів, а перспективні покоління — мільярди доларів, тому історія Anthropic нерозривна з історією її фінансування. Двома стратегічними опорами стали Amazon і Google.

Amazon інвестувала в Anthropic кілька раундів на загальну суму в мільярди доларів і зробила компанію ключовим партнером хмари AWS: моделі Claude доступні клієнтам Amazon Bedrock, а Anthropic зобов’язалася використовувати чіпи AWS Trainium і Inferentia для тренування моделей. Google також інвестувала значні суми та надає обчислювальні потужності на власній інфраструктурі TPU. Таким чином Anthropic отримала доступ до двох найбільших хмарних платформ одночасно — рідкісна позиція, яка знижує залежність від одного постачальника обчислень.

Ця залежність, проте, має зворотний бік. Коли значну частку компанії контролюють техгіганти, які самі розробляють конкурентні моделі, питання реальної незалежності постає гостро. Саме тому механізми на кшталт Long-Term Benefit Trust і статус PBC для Anthropic — не декорація, а спроба структурно відповісти на питання: хто прийматиме рішення, коли інтереси інвесторів і декларована місія зіткнуться.

Бізнес-модель Anthropic: на чому заробляє компанія

Бізнес-модель Anthropic загалом типова для розробників фундаментальних моделей, але з акцентом на B2B. Основні джерела доходу:

• API для розробників і компаній: оплата за обсяг оброблених токенів, із різними тарифами для різних моделей лінійки;
• корпоративні підписки на Claude: командні та enterprise-плани з розширеними лімітами, адмініструванням і гарантіями конфіденційності;
• партнерська дистрибуція: доступ до Claude через хмарні платформи AWS і Google Cloud, де Anthropic ділить економіку з хмарним провайдером;
• споживча підписка на розширений доступ у чаті — менший за обсягом, але важливий для впізнаваності бренду сегмент.

Принциповий момент: на відміну від компаній, які монетизують увагу користувачів рекламою, Anthropic продає сам інтелект моделі як послугу. Це узгоджується з безпековим позиціонуванням — модель не має стимулу утримувати користувача будь-якою ціною або максимізувати залучення. Водночас це робить економіку вразливою: собівартість інференсу висока, конкуренти тиснуть на ціни, а окупність багатомільярдних інвестицій — питання років.

Місце Anthropic серед конкурентів

На ринку frontier models Anthropic конкурує насамперед з OpenAI, Google DeepMind та низкою гравців із відкритими моделями. Порівняння позиціонувань показує, наскільки різні стратегії можуть бути в компаній, що будують технологічно схожі продукти.

OpenAI будує масову платформу з сотнями мільйонів користувачів і широким портфелем продуктів. Google інтегрує моделі Gemini у власну екосистему пошуку, реклами й хмари. Anthropic свідомо обирає вужчу нішу: репутація найобережнішого й найпередбачуванішого постачальника моделей для серйозних застосувань. Це обмежує масштаб споживчого бренду, але створює сильну позицію там, де помилка моделі коштує дорого.

Окремий вимір — політика щодо відкритості. Anthropic не відкриває ваги своїх моделей, як це роблять Meta чи Mistral, і аргументує це міркуваннями безпеки: закритість дозволяє контролювати використання. Критики відповідають, що закритість — це ще й комерційна перевага, одягнена в мову безпеки. Обидва твердження можуть бути правдивими одночасно, і ця подвійність добре ілюструє головне питання до Anthropic: де в її позиціонуванні закінчуються переконання й починається маркетинг.

Критика та відкриті питання

Скептичний погляд на Anthropic зводиться до кількох аргументів. Перший — структурний: компанія, що залучила десятки мільярдів доларів венчурного капіталу та інвестицій техгігантів, зобов’язана демонструвати зростання, а це створює тиск у бік швидшого випуску моделей — рівно той самий тиск, через який засновники колись пішли з OpenAI. Другий — епістемічний: жоден метод «безпеки» наразі не доведено як такий, що працює для моделей майбутніх, значно потужніших поколінь, тому частина заяв неминуче є актом віри. Третій — комунікаційний: гучні попередження про екзистенціальні ризики парадоксально підвищують і цінність компанії, яка нібито єдина знає, як цими ризиками керувати.

Захисники відповідають, що Anthropic принаймні діє послідовно: публікує дослідження, створює формальні механізми страхування місії, випускає політики відповідального масштабування й визнає обмеження власних методів. У порівнянні з галуззю загалом це справді нестандартний рівень відкритості щодо внутрішніх процедур.

Що з історії Anthropic варто запам’ятати

Історія Anthropic корисна не лише як біографія ще одного стартапу з Кремнієвої долини. Вона показує, як у новій індустрії формується диференціація: коли базова технологія у лідерів схожа, конкурувати починають ідентичності, обіцянки й інституційні конструкції. AI safety у виконанні Anthropic — одночасно наукова програма, корпоративна архітектура, маркетингове позиціонування й аргумент продажу, і ці шари настільки переплетені, що відокремити їх уже неможливо.

Для читача, який обирає інструменти ШІ або просто стежить за галуззю, практичний висновок такий: оцінюйте заяви про безпеку не за гучністю, а за конкретикою — чи публікує компанія системні картки моделей, чи описує відомі відмови, чи існують незалежні механізми контролю, чи збігаються слова з економічними стимулами. За цими критеріями Anthropic наразі виглядає одним із найбільш послідовних гравців ринку, але її головний екзамен — чи вистоїть місія під тиском власного масштабу — ще попереду. Дізнатися більше про дослідження та політики компанії можна на офіційному сайті Anthropic.

Часті запитання

Хто заснував Anthropic?

Компанію у 2021 році заснували Даріо та Даніела Амодей разом із групою колишніх дослідників OpenAI. Даріо Амодей обіймає посаду генерального директора, Даніела Амодей — президентки.

Чим Claude відрізняється від ChatGPT?

Обидва продукти — чат-боти на базі великих мовних моделей. Claude навчається з акцентом на принципи Constitutional AI, позиціонується на обережність і роботу з довгими документами та орієнтований насамперед на корпоративне використання, тоді як ChatGPT будує ширшу масову платформу. Яка модель краща — залежить від конкретної задачі.

Чи безкоштовний Claude?

Базова версія чату доступна безкоштовно з обмеженнями; розширені ліміти, новіші моделі та корпоративні функції надаються за платними тарифами. Умови змінюються, тож актуальні деталі варто перевіряти на сайті компанії.

Чи справді Anthropic безпечніша за конкурентів?

Компанія вкладає більше зусиль у дослідження безпеки й прозоріше описує ризики, але «безпечніша» не означає «безпечна»: моделі Claude так само можуть помилятися, а незалежних довгострокових оцінок, які б довели перевагу одного підходу над іншим, наразі не існує.