истории

«Восстание терминаторов на самом деле не исключено» Интервью создателя мобильного ютьюба Андрея Дороничева. После начала войны он решил бороться с дезинформацией с помощью нейросетей

Источник: Meduza

За последний год прогресс в области искусственного интеллекта невероятно ускорился. Теперь нейросетевые сервисы используют и для написания песен, и для создания видео (в том числе самых безумных), и, конечно же, для публикации фейковых новостей. Одним из тех, кто решил бороться с дезинформацией в этой сфере, стал бывший топ-менеджер Google, создатель мобильного ютьюба Андрей Дороничев. Его компания Optic начала с выявления NFT-подделок, а в апреле запустила сервис — распознаватель изображений, созданных нейросетями. Сейчас команда Дороничева разрабатывает сервис с рабочим названием Bias-o-meter (еще один вариант — «Пропагандометр»), который дает «оценку предвзятости» публикациям в СМИ. «Медуза» поговорила с предпринимателем о перспективах развития нейросетей, их роли в информационной войне и о том, как человечество должно реагировать на эту угрозу.

— Как русскоязычное комьюнити в Кремниевой долине пережило первый год войны?

— Тяжелый год для всех. Все в долине на одной волне — против войны, неважно, русский ты, украинец или белорус. С самого первого дня [войны] украинцы проводили встречи, на которые приходило все русскоязычное население. Все, по крайней мере из тех, кто мне знаком, были в одном лагере и выступали против [Владимира] Путина, против российской агрессии. Было и есть тяжело, но антагонизма не чувствуется.

— Какую роль в этом сыграло созданное при твоем участии русскоязычное сообщество предпринимателей Mesto?

— Mesto не играет в [Кремниевой] долине такой большой роли, как за ее пределами. Уже в первые недели [полномасштабной войны] мы создали волонтерский телеграм-канал. И хотя Mesto — это закрытое сообщество, чтобы попасть в которое, надо пройти модерацию, Mesto Help был задуман как канал, куда любой желающий и нуждающийся мог написать за помощью в связи с войной: «я ищу, где перекантоваться», «мне нужен юрист», «встретьте меня на границе Польши». Другие люди писали, чем и где — в самых разных странах мира — могут помочь. Огромное количество людей встретились и помогли друг другу.

— Как ты сам изменился за этот год?

— Конечно, я изменился. Этот год перевернул жизнь у всех — вне зависимости от того, кто и как был вовлечен [в войну и ее последствия]. Я просто потерял возможность быть нейтральным. Война — это тот момент, когда ты больше не можешь оставаться «сидящим на заборе». Ты должен выбрать, в какую сторону спрыгнуть.

Моя позиция понятна: Россия совершает акт военной агрессии, бесконечное количество преступлений на территории другой страны, ведет захватническую войну. Поэтому, несмотря на то что я все еще гражданин России, я выступаю против текущей политики, против любой военной агрессии в XXI веке.

Это крайне сложно — как многие ваши читатели знают — выступать против [государства], когда твои ценности и отношение к жизни полностью расходятся с политикой страны, в которой ты родился. В общем, я всегда относился к России позитивно-нейтрально, у меня было понимание, что страна и политика Путина — это разные вещи. Но сейчас не время нюансов. Сейчас не время, когда можно разделять хороших и плохих русских. Сейчас украинцев у них дома убивают каждый день. Я прекрасно понимаю, что я сам в глазах миллионов украинцев являюсь частью вот этой агрессивной силы, хотя вообще никакого отношения к ней не имею.

— Что именно за год войны поменялось для стартаперов с российским паспортом, которые хотят запустить свой проект в США?

— С российским паспортом сейчас сложно — кем бы ты ни был, какое бы мнение у тебя ни было [по политическим вопросам], что бы ты ни делал, сколько бы ты ни помогал украинцам. За этот год после [начала] войны я был кофаундером в двух проектах, где моими совладельцами выступали граждане Российской Федерации. Оба они не жили в России — и это ключевой момент.

Наличие российского гражданства стало сложностью [при запуске стартапа]. Но тем не менее все возможно, если у тебя не российское резидентство, ты не связан с государством, твои родители не работают на Путина и ты не вовлечен в политику страны. Все это ты можешь спокойно объяснить [например, инвесторам]. По моему опыту, ты даже после [начала полномасштабной] войны можешь основать компанию, привлечь инвестиции — все будет нормально.

Я, конечно же, не буду говорить, что ничего не изменилось. Конечно, изменилось. На россиян смотрят более внимательно. И более тщательно проверяют, не несут ли они с собой какой-то сложный и стремный багаж. Честно говоря, правильно делают. Я понимаю, почему так, — и так теперь будет еще много лет. 

— Под «стремным багажом» ты подразумеваешь токсичность инвестиций?

— У тебя может быть какая-то стремная история, ты можешь быть связан с политическими, «пропутинскими» движениями, у тебя могут быть деньги, которые ты брал от каких-то олигархов, инвесторы, связанные с [разными] правительствами.

Потенциально токсичных историй, которые могут тянуться за твоим российским бэкграундом, здесь куча. Я, например, как американский банк или как американский инвестор, просто могу не захотеть в этом разбираться. У меня есть выбор: инвестировать в один из пяти проектов. Один из них требует какого-то сложного процесса, чтобы выяснить, что человек не тянет за собой некую гадкую историю или тем более санкции. И есть другие такие же проекты, где подобный риск гораздо ниже. Нормальная, естественная реакция [условного инвестора] — выбрать бизнес, где проще.

— Как музыка помогает тебе переживать все происходящее и продолжать в это время работать? Ты все еще ею занимаешься?

— Да, я пою. Это моя другая сторона, которая позволяет более экспрессивно выражать эмоции. Тут все на уровне человеческого «блютуса»: твоя эмоция кодируется напрямую в звук и потом воспринимается другим человеком вне зависимости от смыслов и слов, в которые эмоция зашита. Мне кажется, в этом смысл пения, ведь люди пели задолго до того, как появились слова или ноты. Так что да, музыка, конечно, помогает не замыкаться.

— После ухода из Google ты собирался отдыхать, но внезапно запустил новый бизнес, инвестировал в нейросети. Что повлияло на твое решение?

— Из Google я ушел с полной уверенностью, что больше не хочу работать: хочу наслаждаться жизнью и заниматься творчеством. Все было по плану, мне очень нравилась такая жизнь, я наслаждался ощущением исследования мира. Занимался серфингом и собирался купить отель в Коста-Рике: был на последней стадии сделки, когда началась война.

Когда это случилось, стало совершенно невыносимо спать, есть и просто жить. Потом стало понятно, что если спать и есть я научился, то просто наслаждаться жизнью ближайшие месяцы, а может быть и годы, будет совершенно невозможно. Можно, конечно, притворяться, что наслаждаешься жизнью, но на самом деле в этой ситуации невозможно не действовать. Требуется делать хотя бы что-то, а мне нравится делать то, что я умею. Кот карабкается на дерево в случае опасности, потому что это инстинкт. Мой инстинкт, как оказалось, — это собрать команду и начать какую-то деятельность.

В январе [2022 года] я написал письмо своим будущим кофаундерам (мы не собирались быть совладельцами). У меня была идея, а у ребят — возможность строить [проект]. Я инвестировал во множество разных команд, и это была одна из бизнес-идей, которую я мог подкинуть. Из-за войны я понял, что мне [снова] нужна работа. Собственно, [в марте 2022 года] мы запустили компанию Optic.

— Какую проблему решает Optic? Почему вы начали со стартапа по борьбе с поддельными NFT, хотя вроде бы интерес к ним упал вместе с крахом рынка?

— Optic началась с простого тезиса: цифровая информация стала очень важной в нашей жизни. Важной по-разному: потому что она может начать войну, потому что она стоит денег, потому что она важна лично для вас. Цифровые файлы, записанные в битах и байтах, стали играть большую роль в нашей жизни.

Поэтому достоверность и безопасность этих данных с годами возрастает в цене. Цифровая информация настолько важна для нас, что мы готовы платить за jpeg-изображение сотни тысяч долларов. Кто-то готов пойти на улицы и убить соседей из-за текстов, опубликованных в фейсбуке. Раз уж эта информация так важна, то имеет смысл инвестировать в то, чтобы доказывать [ее достоверность] и отлавливать некачественную, нечестную, недостоверную.

Еще со времен YouTube мне было понятно, что в ИИ, который модерирует или анализирует [данные], инвестируется недостаточно денег и сил. В основном все инвестируют в то, чтобы создавать что-то полусинтетическое [с помощью нейросетей], и в генеративные нейросети, которые создают все с нуля.

Все больше компаний привлекали кучу денег [на развитие проектов в сфере искусственного интеллекта] и строили талантливые команды, чтобы сгенерировать информацию [с помощью нейросетей]. И я особо не знал компаний, которые занимаются тем, чтобы помогать людям отличить настоящее от ненастоящего. Наш тезис в том, что миру нужен искусственный интеллект, который поможет отделять хорошую [то есть достоверную] информацию от плохой.

Когда в СМИ появляется поддельная фотография Трампа, в лучшем случае, даже если случится революция [реакция ответственных за распространение фейка будет следующей]: «Упс, казус произошел». А кто конкретно готов заплатить, чтобы такое не повторялось? Непонятно. Вроде бы все [потенциальные пользователи] готовы скинуть по доллару, но желающих заплатить компании, которая не позволит подобному происходить, особо нет.

В случае с NFT человек, который собирается купить предмет искусства в цифровом виде за 100 тысяч долларов, хочет убедиться, что этот предмет искусства настоящий. Хочет убедиться в этом и магазин, который этот предмет продает, — потому что их потом засудят за подделки. [Наш] NFT-проект изначально стал бизнес-применением для технологии, вот и все.

Искусство — это понятный бизнес, в котором можно быстро добиться монетизации и в котором мы [Optic] уже добились хороших успехов. Сейчас все NFT, которые выставляются на OpenSea, самой большой площадке, сначала проходят через [проверку в] Optic. Но наш проект гораздо шире. Мы построили офигительный продукт, очень масштабируемый, зарабатываем деньги и расширяемся.

— Главный следующий продукт — AI or Not, который распознает изображения, созданные искусственным интеллектом?

— Да, только что запустили.

— Он сможет распознать как фейк того же Трампа в наручниках или папу римского в пуховике? 

— Да и да. Нужно попробовать, но да, конечно. 

— Ты указал, что AI or Not предназначен в том числе для журналистов. Как он должен помочь бороться с дезинформацией и пропагандой?

— Генеративный искусственный интеллект — это очень круто. Так же круто, как камера в телефоне. Раньше качественную фотографию мог создать только фотограф с большим объективом, и их были единицы. А теперь любой владелец айфона [может это сделать]. Раньше создать фотореалистичную иллюстрацию мог только редкий профессионал, а сейчас любой человек заходит в Midjourney и создает что угодно. Очень классно. Когда мы создаем больше инструментов для креативности, мы все в результате выигрываем. Демократизация инструментов создания контента — это хорошо.

Но каждый раз, когда появляются такие инструменты, появляются и bad actors. Появляется цветной принтер — люди начинают печатать контрафактные деньги. Появляется технология deepfake — люди пытаются манипулировать общественным мнением. Например, в первые дни войны создавая фейковые видео Зеленского, где он [якобы] сдается.

С генеративными сетями такой риск значительно возрастает. Потому что такая распространенность быстро дает возможность огромному количеству злоумышленников экспериментировать и находить способы показать, почему наше общество не готово к той или иной технологии.

Трамп в наручниках — прекрасный пример. Чтобы появился целый новый нарратив, который очень быстро распространится и повлияет на широкие массы, достаточно создать некий фейковый ассет по очень нагруженной политической теме. И будет неважно, правдива картинка или нет, потому что это уже даст эффект. Страшно представить, что будет, когда начнут генерировать фейковые доказательства военных преступлений с одной или другой стороны, [устраивать] манипуляции с выборами.

Классно, что у человечества есть инструменты, позволяющие вообразить все что угодно, но также очень важно, чтобы у нас были надежные инструменты, способные отличать воображаемое от реального. И это то, для чего мы создали Optic и AI or Not. Мы натренировали нейросеть, которая научилась визуально отличать [настоящие фотографии от фейковых]. Злоумышленник может стереть заголовки jpeg и все специальные маркеры, которые Midjourney помещает в свои изображения, но Optic все равно поймет, что эта картинка генеративная.

— Я правильно понимаю, что вы обновили AI or Not так, чтобы он распознавал изображения, сгенерированные новой Midjourney?

— Да.

— Насколько успешно у AI or Not сейчас получается выполнять свою задачу? Можно ли как-то его обмануть?

— Всегда есть куда стремиться. Это как вирус и антивирус — вечная гонка вооружений. Постоянно будут появляться новые варианты нейросетей, а мы будем постоянно их догонять.

Прямо сейчас я открыл статистику нашей точности. Самый низкий показатель — 97% — для [изображений, сгенерированных с помощью] Stable Diffusion. Самый высокий показатель — 99% — для Midjourney. Понятно, что сейчас выйдет что-нибудь новое — и нам потребуется время, чтобы собрать данные и потренироваться.

— Не могу не спросить, держали ли вы в голове при создании AI or Not вымышленный стартап Hotdog or Not из сериала про Кремниевую долину?

— Нет. Но теперь, большое спасибо, Hotdog or Not будет у меня в голове.

— Следующий ваш проект — это «Пропагандометр» . Наверняка он связан с потоком дезинформации во время войны. Зачем создали такой проект?

— Во-первых, с войной он не связан. Во-вторых, он родился на хакатоне полторы-две недели назад, когда мы с командой собрались и начали питчить друг другу идеи. Точнее, один из инженеров предложил [идею сервиса, который проводит] фактчекинг на основе искусственного интеллекта, что крайне сложно. Я предложил другое. Всегда можно понять, пытается ли автор продать тебе что-то своим текстом или нет, просто смотря на язык. Можно проанализировать текст и сказать, что в нем приведены лишь аргументы одной стороны или используются манипулятивные слова, которыми тебя явно пытаются в чем-то убедить.

Вообще, любые тексты пытаются тебя в чем-то убедить — это нормально. Надо понимать, что bias — это необязательно плохо или хорошо, но важно знать о его наличии. [Это поможет в том, чтобы] отличать текст, который тебе что-то продает, от текста, в котором факты изложены максимально нейтрально.

На самом деле «Пропагандометр» — это шуточное название, которое прижилось благодаря легкой руке «Медузы». Задача Bias-o-meter — это его изначальное название — приучить людей, читающих СМИ, задавать себе вопрос: «А в какую сторону меня склоняет этот текст?» Даже если ты напишешь самую позитивную вещь, например, про здоровый образ жизни — надо хорошо питаться и долго жить, — Bias-o-meter, скорее всего, покажет высокий уровень biasʼа, указав, что текст подталкивает тебя к определенной точке зрения.

— Как работает «Пропагандометр»? Есть ли слова-триггеры?

— Он использует движок и всю мощь GPT, то есть анализирует текст на предмет biasʼа, что включает в себя всякие триггерные слова, разносторонность аргументов и другие факторы, которые мы пока разрабатываем. В итоге Bias-o-meter дает оценку [от одного до 10, где 10 — максимально предвзятый текст] и объяснение.

Иногда получается курьезно. Ты берешь текст «Медузы», в котором [рассказывается, как] Путин что-то сказал и в котором мало оценки «Медузы», но много слов [пресс-секретаря президента РФ Дмитрия] Пескова от лица Путина. Если прочитать слова Пескова [без дополнительного контекста и альтернативной точки зрения], то они [будут выглядеть] суперпропагандистскими, поэтому и Bias-o-meter скажет, что видит очень предвзятый текст. Я понимаю, что [журналист] имеет в виду [когда пишет новость на основе слов Пескова], но такие курьезы происходят. В таком случае надо читать объяснения [сервиса, которые демонстрируются вместе с оценкой текста].

На самом деле оценка не очень важна. Bias-o-meter же не в суде ее презентует. Самое важное, чего добиваешься при помощи этого инструмента, — это то, что ты задаешь себе вопрос о нейтральности и привыкаешь критически оценивать тексты.

— Многие, на кого пропаганда нацелена, вряд ли воспользуются Bias-o-meter и, наверное, даже не почувствуют в нем нужды. Ты думал о том, что эффективность такого сервиса может быть не очень велика в этом случае?

— Я не думаю о Bias-o-meter как о способе решения мировой проблемы. Это прикольный прототип, который помогает увидеть, на что способны современные нейросети на фоне поляризации мира.

Что делает LLM-ка типа GPT? Она читает огромное количество текстов (по слухам, GPT прочитала треть всего интернета), а потом занимается проблемой компрессии. То есть создает статистическую модель: что человечество сказало на какую-то тему, что наиболее вероятно следует за определенным вопросом, какими должны быть следующие слова [в диалоге с пользователем]. То есть она генерирует не смыслы, а текст, похожий на смыслы.

Другими словами, LLM — это усреднитель человечества. Это не очень хороший инструмент для креативности, потому что гениальность — это вайб, а она (языковая модель, — прим. «Медузы») тебе генерит все время «среднесть».

Но именно для деполяризации общества искусственный интеллект может быть очень полезен, потому что он всегда создает центральную, среднюю позицию, на которую можно ориентироваться вне зависимости от того, в какую сторону ты [политически] отклонен: вправо или влево. Искусственный интеллект может создать привычку для нас, сидящих в эхокамерах в фейсбуке или «Одноклассниках»: у нас будет голос «среднего» ИИ, который скажет: «Классно, что вы тут дискутируете, но помните, что у вас тут левацкий или правацкий чатик и вообще-то не весь мир такой, как вы тут обсуждаете». Не знаю, как это должно быть устроено, но вот Bias-o-meter — это одна из ранних ласточек, примеров того, что такое возможно.

— В сторис ты показывал, что проверял Bias-o-meter на русскоязычной ленте новостей. Можно ли ему доверять при работе не на английском, а на русском языке?

— Надо больше тестировать. Наш главный рынок все-таки англоязычный. Мы просто имеем российский бэкграунд, поэтому и тестируем и на англоязычных, и на русскоязычных новостях.

— Кратко вернемся в март этого года. День, когда закрыли SVB, — это худший день в твоей профессиональной жизни? 

— Да ну брось. Нет, конечно. Это очень интересная история, чтобы вспомнить, но худшие дни в твоей жизни — это когда ты принял плохие решения и понимаешь это. А тут просто случилось событие вне твоей зоны влияния. 

— Деньги, около 10 миллионов долларов, вернули, ничего в процессах не сломалось? 

— Да, все хорошо. 

— Какие уроки вы извлекли для себя из этой ситуации? К примеру, ты писал, что в будущем нужно больше «жечь» деньги стартапов и меньше держать их в банке. 

— Это и есть первый урок. Если бы мы не вернули эти деньги, то самое большое, о чем бы я жалел, — что мы сожгли так мало. Могли бы тестировать еще и Bias-o-meter вдобавок к NFT, но не делали этого, откладывали на потом. Как вы видите, сразу же после всех этих событий мы стали параллельно инвестировать еще в два-три направления и быстрее проверять большее количество гипотез за единицу времени, а не растягивать runway.

— Решили ли диверсифицировать свои активы? Может, сделали что-то еще, чтобы обезопасить себя в будущем?

— Да, мы открыли несколько счетов в разных банках, раскидали там кеш. Это не что-то, о чем было принято думать раньше, а теперь принято.

— Людям в индустрии ИИ, наверное, уже надоело отвечать на вопросы про «восстание терминаторов». Чего стоит на самом деле ожидать от бума нейросетей и искусственного интеллекта?

— Восстание терминаторов на самом деле не исключено. За 25 лет в индустрии я никогда не видел чего-то похожего на то, что происходит сейчас, этой степени изменений и их скорости. Это больше, быстрее и значительнее, чем все, что мы до сих пор видели в компьютерных технологиях, начиная от распространения персональных компьютеров, интернета, айфонов и заканчивая социальными сетями.

Все эти бумы, которые сильнейшим образом изменили нашу жизнь, — вспомни мир до айфона и сейчас — на мой взгляд, ерунда по сравнению с тем, как все теперь изменится из-за бума генеративных нейросетей. Изменения, которые нас ждут… Мы еще даже не поняли, до какой степени все будет меняться. Поэтому люди, которые относятся к этому с опасением, правильно делают. Наше общество во многом не готово к тому масштабу изменений, который грядет. И опасность, скорее всего, исходит не от терминаторов, а от способностей человечества адаптироваться к технологическим изменениям.

Когда придумали паровой двигатель и электричество, началась индустриализация, общество ожидали огромные потрясения. Когда огромное количество работников осталось без работы, потому что они были заменены машинами, случились революции. Сейчас нас ждут изменения такого же уровня.

— Что мы должны сделать в плане разработки дальнейших инструментов на основе искусственного интеллекта, чтобы совсем страшных ситуаций не произошло? Поменять правила разработки? Сделать упор на этику в ИИ? Повысить прозрачность?

— Очень важное слово, которое повторяется в индустрии, — alignment. Как человечество мы должны «заалайниться» по поводу того, какие правила — окей, а что — не окей. И [мы должны] применять эти правила при разработке каждого искусственного интеллекта.

В частности, моя компания Optic предпринимает попытки участвовать в этой дискуссии, потому что остановить, замедлить, перестать исследовать [искусственный интеллект] — это бессмысленно, этого не случится. Джинн выпущен из бутылки, и теперь мы [Optic] будем ускорять прогресс по улучшению этих нейросетей.

То, что мы обязаны сделать, — это очень быстро адаптироваться. Во-первых, адаптировать наши социальные институты, обучение, бизнес-правила. А во-вторых, адаптироваться как ресерчеры [исследователи] и технологи. Другими словами, быстро анализировать новые риски и учитывать их при разработке.

Но все, кто сейчас участвует в разработке ИИ-продуктов, должны задавать себе вопросы: а как это может сработать неправильно? что будет плохим исходом того, что мы делаем, и как мы его можем предупредить и избежать на этапе разработки?

— Тот же Bias-o-meter работает на основе GPT. А как ты используешь ChatGPT в своей жизни?

— Очень много как использую. Он помогает мне писать имейлы, помогает писать юридические документы. Вот недавно мне надо было сделать оффер сотруднику. Вместо того чтобы обращаться к юристам, я обратился к ChatGPT.

То есть ChatGPT уже плотно вошел в мою жизнь — и жизнь моей команды. Более того, часть кода первой версии Bias-o-meter была написана [с помощью] ChatGPT. То есть во время хакатона я сам написал первую версию на базе того кода, который сгенерировал ChatGPT. Я бы писал расширение для Chrome день, а с ним получилось за час. Это [ChatGPT] штуковина, которая обязательно должна быть в инструментарии каждого человека.