Украина 46

Меня это, на самом деле, беспокоит.
Думать - ладно, думать - это понятие сложное. Но как ИИ может перевирать цитаты - непонятно. Казалось бы - чего проще?

В "Гарри Поттере" отец дает такой совет сыну:
«Никогда не доверяй ничему, что может думать само за себя, если не видишь, где у него хранится мозг».

А ИИ думает сам за себя, и я не вижу, где у него хранится мозг.

Ок, я знаю вот что:
Первая шахматная программа ИИ (типа DeepBlue) работала так:
Ей дали правила игры, а дальше гроссмейстеры ей объяснили примерно:
"Вот так конем не надо ходить, видишь, что случилось, когда Алехин так пошел?".
Т.е. учили ее так же, как учили бы человека, и она училась так же, как учится человек.
Что мне понятно, даже если я ничего не понимаю в шахматах.
Нынешняя шахматная программа ИИ (типа DeepMind) работает так:
Ей дали правила игры, но больше не объясняли ничего, она проиграла сама с собой миллионы партий, что-то себе намотала на ус, и сейчас обыгрывает чемпионов мира.
А что она себе намотала на ус - не знает никто, и это меня очень настораживает, потому что понятно, что заранее проиграть все варианты и пользоваться заготовками - она не может.

Это бы - пустяки.
Я опасаюсь того, что нам не дано понять, как он думает, а при этом выигрывает. Не люблю джиннов, выпущенных из бутылки.

В моем примере c DeepBlue гроссмейстеры объяснили ей, в чем ошибка, где она конкретно случилась.
А как может DeepMind понять, что именно приводит к проигрышу - непонятно.
И если она будет играть не в невинные шахматы, я бы предпочла знать, почему она то-то и то-то насоветует правительствам, оптимизировав накопленный опыт.

ИИ от Google за секунду работы использует столько же электричества, сколько полные энергии семь электромобилей — Gizmodo. По данным исследовательской компании Digiconomist, поисковая выдача с привлечением искусственного интеллекта может приблизиться к энергопотреблению всей Ирландии. @bankrollo

Мало того, что тупой, ещё и прожорливый.

У компании Гугл много электричества, его модель ИИ сидит на его платформе, она не в Ирландии, так что пусть ирландцы не беспокоятся.

Так ведь с ростом потребления и цена вырастает. Для всех.

Вот представьте себе ИИ, которому поручено бороться с изменением климата. Ему предоставлен доступ к огромным ресурсам и контроль над автоматизированными системами управления производством и потреблением энергии. ИИ анализирует данные и определяет, что самой большой угрозой для окружающей среды является сама деятельность человека.
И отключает электричество в больших городах.
Климату от этого, скорее всего, станет лучше. А человечеству - не уверена.