По его словам, чтобы нейросеть действительно приносила пользу бизнесу, ей приходится раскрывать внутренние документы, процессы, рабочие инструкции и другие конфиденциальные данные. Именно эта информация затем может использоваться для совершенствования будущих моделей.
«По сути, вы платите за интеллект дважды: сначала деньгами, а затем чем-то гораздо более ценным — своими уникальными знаниями. Чем лучше вы хотите, чтобы модель работала, тем больше информации ей приходится раскрывать», — написал Наделла.
Ваш опыт помогает обучать чужой ИИ
По мнению главы Microsoft, современные модели искусственного интеллекта учатся не только на общедоступных данных.
Они анализируют запросы пользователей, исправления ответов, способы использования инструментов и обратную связь. В результате нейросеть постепенно перенимает накопленный опыт компаний.
«Каждое исправление превращается в корпоративное ноу-хау», — считает Наделла.
Он предупреждает, что таким образом поставщики ИИ получают доступ к знаниям, которые конкуренты не смогли бы приобрести никакими другими способами.
Почему это выгодно разработчикам
Если ИИ-компания использует данные клиентов для обучения новых моделей, она снижает собственные затраты на сбор информации и улучшает качество продукта.
Позже эти же более совершенные модели становятся доступны другим клиентам — в том числе конкурентам тех компаний, которые фактически помогли их обучить.
Именно поэтому, считает Наделла, бизнес должен внимательнее относиться к тому, какие данные он передает внешним сервисам.
Отдельно глава Microsoft раскритиковал позицию некоторых разработчиков искусственного интеллекта, которые обвиняют конкурентов в копировании своих моделей, но при этом сами оставляют за собой право использовать данные клиентов для дальнейшего обучения.
По его мнению, это выглядит противоречиво.
«Используя искусственный интеллект, вы сами создаете новый интеллект. И то, что вы создаете, должно принадлежать вам», — подчеркнул Наделла.
Что предлагает Microsoft
Решением проблемы Наделла считает переход к инфраструктуре, где компания полностью контролирует свои данные.
Речь идет о развертывании корпоративных ИИ-систем в собственных защищенных средах или использовании открытых моделей, которые можно обучать внутри организации, не передавая конфиденциальную информацию сторонним поставщикам.
Такой подход позволяет не зависеть от одного разработчика, свободно менять модели разных компаний и одновременно снижать расходы на использование искусственного интеллекта.
Кроме того, все больше организаций начинают внедрять открытые ИИ-модели (open source), которые можно дообучать на собственных данных без риска передать их разработчикам коммерческих сервисов.
Еще год назад руководители крупнейших ИИ-компаний в основном спорили о том, насколько искусственный интеллект опасен для человечества. Теперь тон дискуссии изменился. Все чаще главы Microsoft, Palantir, Salesforce и других технологических компаний говорят о более приземленной проблеме: кому в действительности принадлежат знания, которые пользователи ежедневно передают нейросетям. Именно данные, накопленный опыт сотрудников и внутренние бизнес-процессы становятся новым стратегическим ресурсом, вокруг которого уже разворачивается борьба между разработчиками ИИ и их корпоративными клиентами.
При этом OpenAI сегодня придерживается иной политики для корпоративных клиентов. Компания заявляет, что по умолчанию не использует данные ChatGPT Enterprise, Business и API для обучения моделей. Для обычных пользователей ChatGPT ситуация отличается: их переписка может использоваться для улучшения моделей, если пользователь не отключил эту возможность в настройках.