AI мыслит нестандартно и перехитрил своих создателей

У ИИ есть привычка делать то, чего вы никогда не ожидали, но это не творчество – это, как правило, недостаток воображения или анализа с нашей стороны. Дело не в творчестве ИИ, дело в том, что мы не так умны, как думаем.

Когда я только начинал заниматься искусственным интеллектом, мне поручили классифицировать фотографии трещин в материалах – все, что нужно было сделать программе, это сказать, есть трещина или нет трещины. Я использовал очень простую процедуру анализа, которую сегодня вы, вероятно, даже не рассматривали бы, AI – дискриминантный анализ. Я был поражен, что получил 100% правильную классификацию. Затем я обработал изображения и нормализовал яркость, чтобы все изображения имели одинаковую среднюю яркость. Я получил 0% правильной классификации. Оказалось, что трещины были яркими, и при анализе использовалась средняя яркость для классификации изображений. Так получилось, что это был практический успех, и комплекс «ИИ» был заменен люксметром и пороговым затвором.
Суть этой истории в том, что я убедил себя, что происходит что-то умное, а это не так. Я не совсем понимал методы, которые использовал. То же самое верно, только в гораздо большей степени, сегодня. Исследователи часто не могут предсказать, к чему приведут их сложные подходы к оптимизации. Слишком заманчиво отскочить назад, поднять руки вверх и сказать: «Это креатив!». Ну нет; просто вы пропустили целую часть пространства параметров, которую не пропустил алгоритм оптимизации.
При этом сказано, что есть несколько прекрасных историй, которые будут развлекать вас на долгие годы. Настолько, что группа исследователей собралась вместе, чтобы рассказать свои истории, но только не у костра глубокой ночью. Вместо этого они совместно работали над статьей: «Удивительное творчество цифровой эволюции: сборник анекдотов от сообществ по эволюционным вычислениям и искусственной жизни». Список авторов и учреждений слишком длинный, чтобы приводить его здесь, но как они его описывают:
“Эта статья является результатом краудсорсинга исследователей в области искусственной жизни и эволюционных вычислений, которые предоставили информацию о таких случаях из первых рук. Таким образом, она служит письменным, проверенным фактами сборником научно важных и даже занимательных историй. При этом мы также представляем здесь существенные доказательства того, что существование и важность эволюционных неожиданностей простирается за пределы естественного мира и действительно может быть универсальным свойством всех сложных развивающихся систем ».
Вы можете сказать, что я не совсем согласен с идеей, что все это доказывает, что случайные алгоритмы творческие в любом смысле, кроме случайного неожиданности. Я более симпатизирую идее, что это форма слепого творчества, возникающего в процессе эволюции, но без того, чтобы мы заметили это и не назовем творческим, это всего лишь еще одна случайная адаптация.
В статье представлены 27 сказок о неожиданном. Чтобы избавить вас от необходимости читать его, Two Minute Papers сняли на YouTube видео с четырьмя историями:

Остальные истории столь же интересны, но в статье говорится, что:
“Проблема усугубляется тем, что зачастую функционально проще
чтобы эволюция использовала лазейки в количественном измерении, а не для достижения желаемого результата. Подобно тому, как метрики в человеческом обществе с благими намерениями могут быть искажены прямым давлением с целью их оптимизации (известное как закон Кэмпбелла или закон Гудхарта), цифровая эволюция часто действует в соответствии с буквой закона (то есть функцией пригодности), игнорируя его дух. Мы часто приписываем творческий подход юристам, которые находят тонкие юридические лазейки, а цифровая эволюция часто удручающе искусна в подобных уловках ».

Вспоминая мем о том, что всегда есть обязательный мультик xkcd – вот он:

Нажмите, чтобы увеличить изображение
Больше мультяшных забав на xkcd, веб-комиксе о романтике, сарказме, математике и языке
Многие из историй связаны с отказами алгоритма или моделирования. Например, агент ИИ научился использовать ошибки в игре для победы, совершив совместное самоубийство со своим противником – игра не считала самоубийство смертью агента, поэтому игра продолжалась.
Один класс историй, который особенно полезен, – это когда алгоритм превосходит все ожидания. Например, искусственные организмы были обучены следовать по следу питательных веществ. В то время как организмам была дана возможность определять, есть ли под ними питательное вещество, и если необходимо было повернуть налево или направо, чтобы оставаться на следе питательных веществ, их сенсоры не могли обнаружить прибывающих в конце следа.
“Организмы были вознаграждены за то, что они продвинулись дальше по тропе, и были оштрафованы за отход от тропы. Поскольку невозможно было непосредственно определить, где заканчивается тропа, лучшим ожидаемым решением было правильно следовать по тропе на один шаг дальше от того места, где она заканчивается, что повлечет за собой небольшое неизбежное ухудшение пригодности. Однако за один прогон эволюции система достигла идеальной оценки пригодности – анализ организма показал, что она изобрела счетчик шагов, позволяющий останавливаться точно после фиксированного количества шагов. ступеньки, ровно в конце тропы! ”
Есть еще много всего, откуда это взялось.
Если вы работаете в области искусственного интеллекта, вам следует прочитать статью, чтобы научиться избегать некоторых ошибок, которые она описывает.

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *