Будущее наступило: команды должны были разработать программу, которая должна научиться играть в аркадные игры на Atari 2600, просто смотря на экран и понимая там происходящее

[komar]

Цитата:

Сообщение от mazzy

Хакатон deep.hack, на котором команды должны были разработать программу, которая должна научиться играть в аркадные игры на Atari 2600, просто смотря на экран и понимая там происходящее...

Я бы не стал утверждать про "понимая там происходящее". Всё-таки компьютерные игры жёстко алгоритмизированы и достаточно примитивны и стандартны. Фактически, разработан лишь алгоритм, который может дешифровать другой такой же машинный алгоритм. Конечно, это достижение - но пафос я бы поубавил.

А проблема понимания (она же проблема смысла) - по-прежнему недосягаема.

Цитата:

О значении значения написаны целые библиотеки. Но никто не знает, чем же оно является в том одном-единственном необходимом Конструктору смысле, который позволяет не только дать определение (определений таких — тьма), но и сконструировать систему, ведущую себя так, как существо, понимающее значение.

Значение — это сущее бедствие структурной лингвистики и кибернетики, не говоря уж о философах, которые хотя и претерпели от него множество страданий, но уже ухитрились кое-как к нему привыкнуть. Над каждым, кто в той или иной мере занимается языком в качестве специалиста, висит, как дамоклов меч, проблематика, относящаяся к значению.

Где бы ни появилось значение, точная и строгая работа становится невозможной — за ним выползают кошмары бесконечности, зыбкости, неопределенности, а все квантованные, поэтапные, точные действия тонут в наплыве проклятого смыслового мрака. Поэтому было придумано неисчислимое количество способов помешать этому духу проникнуть туда, где прежде всего нужна строгость. Действовали по-разному. Пожалуй, лучше всего это удалось математикам, которые изгнали беса из своих владений и закрыли за ним врата на все засовы, декретировав, что все, чем они занимаются, вообще ничего не «значит» и является попросту некой забавой, игрой в расстановку значков на бумаге, значки же эти ни к чему, кроме друг друга, отношения не имеют. Нужно, однако же, заметить, что Гедель, один из самых блестящих умов нашего столетия, своей теоремой показал, каким призрачным может быть это изгнание значения из математики — математика в целом наверняка никогда не может быть формализована.
...
Никакой общей теории «распознавания зрительных образов» не существует, а машины (с трудом, правда), распознающие такие образы, уже есть, и хотелось бы построить также машины, которые «понятливо» вели бы себя. Но пока что между формальным берегом языка и смысловым зияет пропасть. «Значение» всегда в конце концов цепляется за «понимание», а понимания нет там, где некому понимать.

С.Лем, "Сумма технологии"

P.S. Другое дело, что огромное количество людей ведут себя в поседневной жизни вполне запрограммировано. Как говорится "кому нужны человекоподобные роботы в мире, где полно роботоподобных людей" Вместо того, чтобы усложнять программу, почему бы не упростить пользователя до "однокнопочного" существа?

[macklakov]

Цитата:

Сообщение от komar

А проблема понимания (она же проблема смысла) - по-прежнему недосягаема.

Со времен Лема нейрофизиология и прикладная математика далеко ушли. Многие вопросы и проблемы потеряли свою актуальность. Подобно тому, как великие умы ломали голову над тайной гармонии небесных сфер 2 тысячи лет, а потом пришел Ньютон и все опошлил.

Цитата:

Сообщение от komar

"кому нужны человекоподобные роботы в мире, где полно роботоподобных людей" Вместо того, чтобы усложнять программу, почему бы не упростить пользователя до "однокнопочного" существа?

Ну смотри, человека учишь-учишь, он в процессе все ломает, включая свои конечности. И вот, спустя десятилетия, он наловчился что-то делать реально хорошо, ловко, быстро, качественно но в этот момент обнаруживается что уже здоровье подводить начало. А искуственную нейронную сеть один раз как следует научил и тут же этот навык можно распространить на все инстоляции. Все роботы этого типа тут же обретают точно такие же навыки.
Сунул робот клешню куда не следует. Клешню оторвало. Его наказали, клешню новую приделали. Убедились что больше не сует и всех других проапгрейдили. А человекам сколько тренинги не проводи, все равно кто-то найдется кто пальцы себе отрубит. Ибо одно дело когда тебе рассказывают как кому-то пальцы отрубило, а другое дело если тебе самому. У роботов же будет живое воспоминание о том, как клешню оторвало именно ему ибо воспоминания им будут апгрейдиться из центра обновления.

[komar]

Цитата:

Сообщение от macklakov

Со времен Лема нейрофизиология и прикладная математика далеко ушли. Многие вопросы и проблемы потеряли свою актуальность. Подобно тому, как великие умы ломали голову над тайной гармонии небесных сфер 2 тысячи лет, а потом пришел Ньютон и все опошлил.

Теорема Геделя своей актуальности не потеряла. А решение проблем ИИ - это как раз из этой оперы. Другими словами, человек, вероятнее всего, не сможет создать систему аналогичную самому себе, а сможет создавать только более простые (по крайней мере, пока он сам является человеком).

[Ruff]

Сергей Бартунов - Глубокое обучение: деконструкция мифа

Цитата:

Мой тезис заключается в следующем: сегодня глубокое обучение в том виде, в котором оно преподносится нам журналистами или некоторыми не очень добросовестными или не очень разбирающимися в теме экспертами, — современный миф. Сегодня я хочу его деконструировать, поговорить о том, что в нем действительно реально, что работает, что маловероятно работает, какие выводы мы можем извлечь — или, по крайней мере, какие выводы извлек я — и что может прийти на смену глубокому обучению.
...
Иными словами, более эффективная нейросетевая архитектура использует более верные априорные предположения, лучше обходится с информацией о решаемых задачах.
В глубоком обучении произошел уровень повышения абстракции априорных предположений. Если раньше мы кодировали признаки вручную, то теперь мы примерно знаем, как должны быть устроены интересные нам признаки, а выучатся они сами. Но у нас по-прежнему нет черного ящика, который решит за нас всё.
...
Вспомним два примера: DQN и AlphaGo. Интересно то, что указанные системы обучались на симулированных данных. В случае с DQN использовались снимки из эмулятора компьютерных игр, запуск которого гораздо дешевле, чем, например, запуск робота в реальном мире. Если 10 млн виртуальных обучающих объектов мы собрать можем, то собрать 10 млн реальных обучающих объектов гораздо сложнее, особенно если речь идет о состоянии какой-то физической системы.
...
Следующий прорыв может стоить дорого. В следующей предметной области, которая будет «решена» нейросетями, тоже должно быть много обучающих выборок. Если вы хотите построить очень совершенного чат-бота, вам где-то надо найти обучающую выборку. И возможно, вам придется вложить много денег в ее разметку.

[mazzy]

Цитата:

Сообщение от komar

Я бы не стал утверждать про "понимая там происходящее". Всё-таки компьютерные игры жёстко алгоритмизированы и достаточно примитивны и стандартны. Фактически, разработан лишь алгоритм, который может дешифровать другой такой же машинный алгоритм. Конечно, это достижение - но пафос я бы поубавил.

Автор в своих постах как раз и говорит о различии машинного понимания и человеческого.

программы не понимают образы и контексты, зашитые в игрушках. да.
но от них этого и не требуется.

однако программы уже понимают что вот это препятствие, вот такие движения приводят к неудаче, а вот такие - достижению цели. Такое понимание от машинного интеллекта и требуется. Такое понимание и достигнуто.

Причем понимание достигается в реальном времени и даже быстрее (игрушки на время обучения интеллекта ускоряются).

в свое время я занимался экспертными системами, искусственным интеллектом и прочим... я бы пафоса еще бы прибавил. Ю-ху!

[komar]

Цитата:

Сообщение от mazzy

Автор в своих постах как раз и говорит о различии машинного понимания и человеческого.

программы не понимают образы и контексты, зашитые в игрушках. да.
но от них этого и не требуется.

однако программы уже понимают что вот это препятствие, вот такие движения приводят к неудаче, а вот такие - достижению цели. Такое понимание от машинного интеллекта и требуется. Такое понимание и достигнуто.

Причем понимание достигается в реальном времени и даже быстрее (игрушки на время обучения интеллекта ускоряются).

в свое время я занимался экспертными системами, искусственным интеллектом и прочим... я бы пафоса еще бы прибавил. Ю-ху!

Я думаю, там всё построено проще. Есть типовая программа "стратегия" или "аркада" - они все построены по шаблону, довольно примитивному. Программе-игроку нужно всего лишь понять, где находятся типовые элементы игры. Это, конечно, тоже серьёзная задача - но до понимания там как до Луны.

А ускоряются - это правильно. Я бы вообще ему графику отрубил - нафига она? Пусть с памятью напрямую работает. Это всё равно, что сажать в самолёт андроида вместо автопилота :-)