ИИ и человек: кто будет создавать ценность в бизнесе завтра?

– Денис, почему компании инвестируют в ИИ, игнорируя то, что большая часть их данных — мусор? (Исследования Experian Data Quality от 2024 г. показывают, что лишь 3% данных предприятия соответствуют стандартам качества)

– Сила GenAI в том, что результат работы модели в основном основан не на данных компании, а на «чужих» данных. То есть использование этой технологии снижает зависимость от собственных данных и позволяет получить приемлемый результат даже с использованием оставшихся «хороших». Хотя, конечно, я в вопросе вижу немного другой акцент: надо ли продолжать работать над собственными данными? Да, я считаю, что это остаётся важнейшей задачей — сложной и трудоёмкой, но необходимой. Сейчас в информационном пространстве этому моменту не уделяется достаточно внимания, и это не совсем правильно. Работа с данными, их организация, систематизация, повышение качества — остаётся большим технологическим вызовом.

– Насколько этичным является внедрение GenAI в корпорации, если даже его создатели не до конца понимают, как он работает?

– Я не согласен с тем, что мы не понимаем, как работает GenAI. Всё же LLM — довольно-таки понятная концепция. Но проблема в том, что LLM — сложная система, которая состоит из огромного количества простых элементов. И количество элементов настолько велико, что оно не только не позволяет человеку «осознать» всю систему целиком, но и вызывает появление так называемых «эмерджентных» свойств, то есть свойств, которыми не обладают отдельные элементы, но которые проявляются в поведении всей сложной системы в целом.

Да, в работе LLM есть элемент непредсказуемости, существует вероятность ошибки и того, что сценарий работы пойдёт не так, как планировали разработчики, — и это, конечно, не устраивает бизнес, привыкший работать по чётко контролируемым и предсказуемым процессам. Тем не менее возможный экономический эффект от использования LLM настолько велик, что игнорировать эту технологию невозможно. Поэтому, с одной стороны, надо правильно оценивать и выбирать области применения LLM, находить те бизнес-задачи, которые принесут максимальную пользу при небольших рисках; с другой стороны, индустрия вырабатывает сейчас механизмы контроля LLM, оценки и обеспечения нужного уровня качества даже в сложных задачах.

Дело в том, что процесс статистического вывода (хотя люди в основном используют термин «логический вывод») в LLM устроен не так, как у человека: LLM является генеративной авторегрессионной моделью, то есть генерирует следующее слово на основе предыдущих слов. Люди же «думают» ближе к модели, которая отражена в идее моделей типа наивного байсовского классификатора — делают именно логический вывод, то есть у них есть развесовка фактов/фичей и логика типа «если идет дождь, то нужен зонт». А вот LLM делает «статистический вывод» типа «если на вход слово кошка, то следующее слово скорее всего «спит». В целом, конечно, можно оценить и собрать результат такой генерации в цепочку взаимозависимых фактов, но, думаю, такая задача достаточно дорогая с точки зрения вычислительных ресурсов. Я не очень знаком с этой областью, но знаю, что сейчас в индустрии над решением такой задачи работают.

Однозначно не для всех «решений» LLM нужно делать такой x-ray логики вывода — мы ведь часто не можем объяснить и человеческие решения, так как многие из них принимаем «интуитивно». Это как раз тот же эффект: логика принятия решения настолько сложна, что мы не можем её чётко описать. Конечно, в задачах, связанных с медициной, наукой и т. д., стоимость ошибки намного выше, чем стоимость «объяснения» решения, но в большинстве кейсов коммерческих компаний — поддержка клиентов, продажи, управление знаниями, повышение эффективности сотрудников и т. д. — риск ошибки не такой высокий, и достаточно иметь механизмы типа guardrails и human in the loop.

– AI-агенты — это следующий шаг к полному делегированию мышления или просто дорогая автоматизация задач?

– Я бы отнёс ИИ-агентов скорее к автоматизации, потому что, по сути, тут основная идея в том, что мы к LLM «приделываем» инструменты, с помощью которых она может осуществлять действия и взаимодействовать с цифровым миром.

– Как ты считаешь, где «бутылочное горлышко» в распространении ИИ по миру?

– То, что сегодня мы называем ИИ, — пока ещё не такая совершенная технология, и требуется время на то, чтобы бизнес и потребители абсорбировали её, нашли области максимальной эффективности и низкого риска применения, адаптировали бизнес-процессы, перестроили оргструктуры и т. д. Как мы знаем из всей нашей истории автоматизации, самым большим сопротивлением инновациям являются сами люди, которые не хотят ничего менять. Все привыкли работать так, как сложилось, а использование ИИ требует фундаментального изменения того, как мы работаем. В первую очередь это заметно в ИТ-секторе, так как генерация кода сейчас — один из основных успешных кейсов применения ИИ и огромный рынок. Мы видим, как быстро меняется процесс разработки: люди начинают выполнять совсем другие роли и задачи, смешивается и меняется текущее распределение обязанностей, появляются новые профессии.

– Будет ли следующий CEO цифровым агентом, созданным для идеального управленческого баланса?

– Мне кажется, что ИИ больше претендует не на роль CEO, а на роль COO. Задача CEO — видение, формирование смысла компании и её существования. Это остаётся задачей человека. А вот операционные вопросы, бизнес-процессы, поддержка деятельности и т. д. — это то, в чём и силён ИИ.

– Образование будущего — это обучение ИИ или обучение человека жить с ИИ?

– Это очень хороший вопрос, потому что LLM создаёт колоссальный вызов для индустрии образования. Существующие подходы сформированы задачей обучения людей: ознакомления со структурой накопленных знаний и основными компетенциями, обучения их применению и использованию. С появлением LLM как средства для быстрого доступа ко всем накопленным знаниям человечества снижается ценность эрудиции, но акцент переносится на умение мыслить, находить и решать проблемы. На выработку этого умения и придётся ориентироваться индустрии образования, перестраивая сложившиеся практики и критерии.

– Как ты думаешь, может ли ИИ сделать общество умнее или лишь усугубит цифровое неравенство?

– Конечно, в целом общество только выиграет. Так же, как каждый раз в момент появления новых технологических прорывов, человечество в целом становилось всё умнее и умнее. Думаю, что мы пока ещё смотрим на людей как на «индивидуальности», оценивая каждый отдельный «интеллект». Но человечество — это и «общий» интеллект, это группа, сложная система, такая же, как LLM, состоящая из 7 миллиардов элементов, каждый из которых сам по себе бесконечно сложный и непредсказуемый. Такая сложная система, состоящая из таких элементов, — одна из самых сложных в этом мире. Кто знает, к чему приведёт её дальнейшее развитие и усиление ее интеллекта с помощью всё более совершенных инструментов.

Денис активно ведет канал Клуб CDO в телеграме, где делится самыми актуальными статьями, ивентами и материалами из области работы с данными, ИИ и пр, дает свой взгляд на технологии, рассказывает про интересные книги.

А 26 августа есть уникальная возможность встретиться с Денисом лично на нашем мероприятии VTORNIK.Вечер, регистрация обязательна.