Max Home IndustryПо словам главы ЕС Маргрете Вестагер, дискриминация является более серьезной проблемой, связанной с развитием искусственного интеллекта, чем вымирание человечества.
Вестагер сказал Би-би-си, что необходимы «ограждения», чтобы предотвратить материализацию самых больших рисков, связанных с технологией.
Она сказала, что это ключевой момент, когда ИИ используется для помощи в принятии решений, которые могут повлиять на чьи-то средства к существованию, например, могут ли они подать заявку на ипотеку.
Европейский парламент проголосует за предложенные правила ИИ в среду.
Закон об искусственном интеллекте рассматривается политиками на фоне предупреждений о разработке технологии, которая позволяет компьютерам выполнять задачи, обычно требующие человеческого интеллекта, слишком быстро.
Некоторые эксперты предупреждают, что ИИ может привести к вымиранию человечества.
Но Вестагер сказал, что потенциал ИИ усиливать предвзятость или дискриминацию, которые могут содержаться в огромном количестве данных, полученных из Интернета и используемых для обучения моделей и инструментов, вызывает более серьезную озабоченность.
«Возможно, [риск исчезновения] может существовать, но я думаю, что вероятность довольно мала. Я думаю, что риски ИИ больше связаны с тем, что люди будут подвергаться дискриминации [по отношению к ним], их не будут воспринимать такими, какие они есть.
«Если это банк использует его, чтобы решить, могу ли я получить ипотеку или нет, или если это социальные услуги вашего муниципалитета, тогда вы хотите убедиться, что вас не дискриминируют [против] из-за вашего пола или вашего цвета кожи. или ваш почтовый индекс, — сказала она.
Во вторник орган по защите данных Ирландии заявил, что приостановил запланированное Google развертывание в ЕС своего чат-бота Bard с искусственным интеллектом.
Компания сообщила, что Google проинформировала ее о том, что ее конкурент ChatGPT будет представлен в ЕС на этой неделе, но еще не получила подробностей или информации, показывающей, как фирма выявляла и минимизировала риски защиты данных для потенциальных пользователей.
Заместитель комиссара Грэм Дойл сказал, что DPC искал информацию «в срочном порядке» и направил дополнительные запросы о защите данных в Google.
«Подход ООН»
В эксклюзивном интервью BBC Вестагер, исполнительный вице-президент Европейской комиссии, сказал, что регулирование ИИ должно быть «глобальным делом».
Но в преддверии голосования в Европейском парламенте по Закону об искусственном интеллекте она настаивала на том, чтобы консенсус среди стран-единомышленников был приоритетным, прежде чем привлекать больше юрисдикций, таких как Китай.
«Давайте начнем работать над подходом ООН. Но мы не должны задерживать дыхание», — сказала она.
«Мы должны делать все, что можем, здесь и сейчас».
Вестагер возглавляет усилия ЕС по созданию добровольного кодекса поведения с правительством США, в соответствии с которым компании, использующие или разрабатывающие ИИ, подпишутся под набором стандартов, которые не имеют обязательной юридической силы.
Быть «прагматиком»
Текущий проект Закона об ИИ направлен на классификацию приложений ИИ по уровням риска для потребителей, при этом видеоигры с поддержкой ИИ или спам-фильтры попадают в категорию с наименьшим риском.
Системы искусственного интеллекта с высоким уровнем риска включают те, которые используются для оценки кредитных рейтингов или доступа к кредитам и жилью. Именно здесь будет сосредоточен строгий контроль над технологиями.
Но поскольку ИИ продолжает быстро развиваться, Вестагер сказал, что необходимо быть прагматичным, когда дело доходит до тонкой настройки правил этой технологии.
«Лучше получить, скажем, 80% сейчас, чем 100% никогда, поэтому давайте начнем, а затем вернемся, когда узнаем, а затем исправим с другими», — сказала она.
Вестагер сказал, что существует «определенно риск» того, что ИИ может быть использован для влияния на следующие выборы.
Она сказала, что задача полиции и спецслужб будет состоять в том, чтобы быть «полностью в курсе» криминального сектора, где есть риск, что они опередят в гонке за использование технологии.
«Если вашу социальную ленту можно отсканировать, чтобы получить подробный ваш профиль, риск манипулирования просто огромен, — сказала она, — и если мы окажемся в ситуации, когда мы ничему не верим, то мы полностью подорвем наше общество». .»
В марте многие технологические лидеры и исследователи подписали письмо с призывом приостановить разработку системы искусственного интеллекта, более мощной, чем GPT-4 от OpenAI.
Но Вестагер сказал, что это нереально.
«Никто не может добиться этого. Никто не может убедиться, что все согласны», — сказала она, отметив, что некоторые могут использовать паузу как возможность опередить конкурентов.
«Я считаю важным, чтобы каждый разработчик знал, что все подписались на одни и те же ограничения, чтобы никто не подвергал себя чрезмерным рискам».
Распознавание лиц
Предложения Европейского парламента по Закону об искусственном интеллекте направлены на ограничение использования систем биометрической идентификации и неизбирательного сбора пользовательских данных из социальных сетей или видеозаписей с камер видеонаблюдения для таких целей, как системы распознавания лиц.
Однако Вестагер сказал: «Мы хотим установить строгие ограждения, чтобы они не использовались в режиме реального времени, а только в определенных обстоятельствах, когда вы ищете пропавшего ребенка или убегает террорист.
«У парламента гораздо более принципиальная позиция, по которой они проголосуют завтра, чтобы фактически полностью запретить его».
Прежде чем Закон об ИИ станет первым в мире сводом правил по использованию и развитию систем ИИ, три ветви власти ЕС: Комиссия, Парламент и Совет должны будут согласовать его окончательную версию.
Ожидается, что он вступит в силу не ранее 2025 года.