Маленкий шаг для Google, гигантский скачек для SkyNet

Чтож… Апокалиптичный сценарий мрачного будущего человечества под контролем машинного разума становится все ближе. В середине восьмидесятых Джеймс Кэмерон показал нам захватывающе мрачный и невозможный мир Терминатора, который спустя сорок лет уже не кажется такой уж фантастикой. Заменим художников, писателей и журналистов искусственный интеллект начинает внедрятся и в военную сферу. Компания Alphabet Inc., владеющая Google, убрала из своих правил, регулирующих использование искусственного интеллекта, пункт, который ранее предписывал избегать применения данной технологии в потенциально опасных целях, таких как разработка вооружения. Именно так по канону Терминатора и появился SkyNet, уничтоживший человечество. Пугающее совпадение, не правда ли?

Ранее в документах компании значилась категория "Приложения ИИ, которые мы не будем разрабатывать". Она включала технологии, потенциально причиняющие значительный вред, в том числе оружие. Сейчас эта информация отсутствует на странице Google.

На запрос прессы представитель Google ответил, ссылаясь на блог-пост, опубликованный во вторник.

"Мы полагаем, что в развитии ИИ должны лидировать демократические государства, ориентируясь на такие базовые ценности, как свобода, равенство и уважение прав человека," пишут Джеймс Маника, старший вице-президент Google, и Демис Хассабис, возглавляющий AI-лабораторию Google DeepMind в своем посте. "Мы уверены, что компании, правительства и организации, придерживающиеся этих ценностей, должны совместно работать над созданием ИИ, который защищает людей, способствует мировому развитию и поддерживает национальную безопасность."

Удаление пункта о "нанесении вреда" может повлиять на тип проектов, которыми Google решит заниматься, считает Маргарет Митчелл, бывший сопредседатель этической команды ИИ Google, а в настоящее время главный научный сотрудник стартапа Hugging Face, сообщает Bloomberg.

"Исключение этого пункта стирает труд, проделанный многими специалистами и активистами в области этического ИИ Google. Более того, это может означать, что компания будет использовать технологии, которые потенциально могут причинять вред", прокомментировала она.

Это изменение - часть более широких изменений в политике крупных технологических компаний. В январе корпорация Meta отказалась от многих своих инициатив в области разнообразия и инклюзивности, сообщив сотрудникам, что они больше не обязаны проводить собеседования с кандидатами из недостаточно представленных групп для открытых вакансий. В то же время Amazon приостановила некоторые свои программы, направленные на расширение многообразия, назвав их "устаревшими". Администрация президента Дональда Трампа также высказывалась против подобных инициатив.

Трейси Пиццо Фрей, руководившая проектом "Ответственный ИИ" в Google Cloud с 2017 по 2022 год, отметила, что принципы ИИ являлись основой для ежедневной работы ее команды. Она поделилась, что данные принципы побуждали их тщательно проверять все, над чем они работали. Она убеждена, что это сделало продукцию компании лучше. "Ответственный ИИ создает доверие, а оно необходимо для успеха," подчеркнула она.

Сотрудники Google уже давно обсуждают, как сбалансировать этические соображения и конкурентную борьбу в области ИИ, особенно после того, как выпуск ChatGPT от OpenAI усилил давление на компанию. Некоторые сотрудники выразили в 2023 году обеспокоенность тем, что стремление компании к лидерству в ИИ привело к этическим компромиссам.