?

Log in

No account? Create an account
Отчет с парти Московской школы управления Сколково в Менло-Парке, Калифорния - Юрий Панчул [entries|archive|friends|userinfo]
Money can buy bandwidth. Latency requires bribing God.

[ website | My Website ]
[ userinfo | livejournal userinfo ]
[ archive | journal archive ]

Отчет с парти Московской школы управления Сколково в Менло-Парке, Калифорния [Mar. 17th, 2016|01:46 am]
Yuri Panchul
Тусовка Московской школы управления Сколково в Менло-Парке, Калифорния началась с традиционной русской лекции "Есть ли жизнь на Марсе"? Для лекции был приглашен ученый, который занят поисками внеземной жизни в рамках программы SETI:

Вот он говорит типа "Хиллари якобы собирается обнародовать секретные документы о летающих тарелках (если Хиллари выберут). Но если тарелки действительно были, то они наверняка были не только в США, но и скажем в Бразилиии. Это, значит их секретили и в Бразилиии? А если нет, то почему инопланетяне предпочитают штаты? Из-за фаст-фуда?"



При этом товарищ из SETI решил не ограничиваться только поисками инопланетян, но и попробовал ответить за всех ученых вообще и залез невзначай на территорию искусственного интеллекта, в котором предсказал скорые и неизбежные успехи.

Я тут же спросил, почему он считает, что в компьютере может быть исскуственный интеллект, если компьютер сводится к конечному автомату / к машине Тьюринга / куче соединенных арифмометров, а у человеческого интеллекта есть такая фишка как ощущение собственного "я", о природе которого ученые не имеют ни малейшего представления, и которое не появился, даже если наставить арифмометров до горизонта.

Товарищ из SETI сказал мне что я говорю только о компьютерах типа настольных, которые выполняют фиксированные программы, а вот он заходил в MIT и там видел бегающих самообучающихся роботов с нейронными сетями. На что я сказал, что нейронные сети и machine learning суть те же конечные автоматы / кучи арифмометров, но только у них больше internal state.

Тогда товарищ из SETI попытался надавить авторитетом Стенфорда и сказал, что он на прошлой неделе встречал стенфордскую группу по искусственному интеллекту, и они сказали ему, что робот-учитель появится в следущие 30 лет. На что я сказал, что я 20 лет назад встречал отца-основателя стенфорской группы по искусственному интеллекту Джона Маккарти, которые говорил то же самое еще в 1958 году.

Тут товарищ из SETI понял, на кого он напал, быстро сказал "вы assume, что искуственный интеллект должен иметь self-awareness, но это необязательно" и перевел разговор на другую тему.

И правильно сделал, а то бы я и до китайской комнаты дошел, и под конец припомнил бы, что MIT присвоил 300 миллионов долларов российских налогоплательщиков.


Фотки. Товарищ говорит:

skolkovo_160316_182355

Его внимательно слушают:

skolkovo_160316_182411

"Что, фотографируешь меня? Я знаю, что я красивая."

skolkovo_160316_184507-2

Вопрос в конце:

skolkovo_160316_185117

Еще я встретил Александру Джонсон - пионера-организатора русских бизнес-тусовок в Стенфорде с ~2006 года:

skolkovo_160316_181640-2

Александра сказала мне, что ввиду геополитической ситуации ее тусовки следущие 10 лет будут не русские, а глобальные, не в большом помещении в Менло-Парке, а в яхт-клубе в Сан-Франциско. Сказала, что не одобряет текущие выборы в США, и вообще хочет изменить мир. Новый формат тусовки - инструмент такого изменения:


Screenshot 2016-03-17 00.56.20


skolkovo_160316_181719

Также присутствовал Евгений Зайцев, инвестор в биотех:

skolkovo_160316_181817

Украинский и израильские сектора были представленными Стасом Хирманом, слева. А дальше, если не ошибаюсь, стоит Анна Дворникова, организатор конференции SVOD.

skolkovo_160316_210640

Студенты бизнес-школы Сколково в этом году посещали Интел (образовательные программы и инвестиционное крыло), а также AMD (в гости к Тимуру Палташеву).


Считаете ли вы, что self-awareness (ощущение собственного "я") необходима для искуственного интеллекта?

Да, это наверняка центр интеллекта
0(0.0%)
Это возможно центр интеллекта. Без понимания что это такое победу над AI декларировать нельзя
8(32.0%)
Нет, искуственный интеллект возможен и без ощущения собственного "я", с помощью кучи условных арифмоментров
8(32.0%)
Это без денег жить нельзя, а без интеллекта можно
8(32.0%)
Из-за бугра плюете?
1(4.0%)
LinkReply

Comments:
[User Picture]From: ammosov
2016-03-17 08:51 am (UTC)
this is kewl

определи "собственное я"

а студенты за эту тусовку оооочень большие деньги платят ) и технарей среди них очень мало, все больше маркетологи да пиарщицы
(Reply) (Thread)
[User Picture]From: raydac
2016-03-17 08:56 am (UTC)
ну вот тебе "я" осознаваемое компом

существовать(X):-мыслить(X).
мыслить(я).

теперь тебе компот скажет на вопрос и что он и мыслит и существует
(Reply) (Thread)
[User Picture]From: 1500py470
2016-03-17 09:36 am (UTC)
Пора делать поправку – Смыслю, значит существую. И определится с границей определений "Мыслю" и "Смыслю"
(Reply) (Parent) (Thread)
[User Picture]From: vasionok
2016-03-17 09:05 am (UTC)
Калькулятор - это уже искусственный интеллект.
(Reply) (Thread)
From: Roman Zhukov
2016-03-17 09:27 am (UTC)
Калькулятор - это такой современный абак.
А про AI есть прекрасный критерий: как только компьютер начнёт искать причину не делать работу, которой его нагружает человек, значит у него и впрямь появился интеллект.
(Reply) (Parent) (Thread) (Expand)
(Deleted comment)
(Deleted comment)
(Deleted comment)
[User Picture]From: exshvonder
2016-03-17 09:21 am (UTC)
На что я сказал, что я 20 лет назад встречал отца-основателя стенфорской группы по искусственному интеллекту Джона Маккарти, которые говорил то же самое еще в 1958 году.

С козырей зашел!!!
(Reply) (Thread)
[User Picture]From: norian
2016-03-17 09:27 am (UTC)
зелёные человечги, гигантские шагающие робады и изменить мир в йахт-клубе - это есть истинный технологический прорыв, а не всякие унылые процессоры и платы с фпга

скольково - главный центр глобальной мировой науки и технологий

(Reply) (Thread)
[User Picture]From: panchul
2016-03-17 03:45 pm (UTC)
Любая тусовка полезна, если от нее есть польза реальному развитию. Иногда даже религиозная тусовка. В свое время была компиляторная компания (MetaWare), менеджмент которой объявили, что их компания управляется не ними, а Иисусом Христом и (как мне объяснил хедхантер в 1993 году) ожидали этого же и от работников. Но компиляторы они делали неплохие, пока GCC не пришел, вполне имели свою нишу.

Edited at 2016-03-17 03:51 pm (UTC)
(Reply) (Parent) (Thread) (Expand)
From: raygo
2016-03-17 09:35 am (UTC)
А вообще цель какая у этого мероприятия была?
(Reply) (Thread)
[User Picture]From: panchul
2016-03-17 03:47 pm (UTC)
Днем студенты ездят по компаниям Silicon Valley, а вечером встречаются со всякими miscellaneous личностями типа меня.
(Reply) (Parent) (Thread) (Expand)
[User Picture]From: freedom_of_sea
2016-03-17 09:44 am (UTC)

127.0.0.1

у компьютеров есть ощущение собственного localhost

Любой интеллект имеет модель мира, понимает его. Сам интеллект - часть мира, поэтому понимание мира включает в себя понимание себя.

Для животного, такого как человек, selfawareness - ключевой параметр так как цель интеллекта - забота о себе.

Для Искина selfawareness это просто побочный эффект понимания окружающего мира.
(Reply) (Thread)
(Deleted comment)
[User Picture]From: rednyrg721
2016-03-17 09:59 am (UTC)
Про "вечные 30 лет до" есть вот такая теория красивая:

"The latest possible date a prediction can come true and still remain in the lifetime of the person making it is defined as The Maes-Garreau Point. The period equals to n-1 of the person’s life expectancy.

This suggests a law:

Maes-Garreau Law: Most favorable predictions about future technology will fall within the Maes-Garreau Point."

http://kk.org/thetechnium/the-maesgarreau/

Всем хочется дожить до претворения своих предсказаний в жизнь :(
(Reply) (Thread)
[User Picture]From: mister_hyister
2016-03-17 11:49 am (UTC)
Откуда вообще идёт миф, что компьютер осознает себя как личность в результате увеличения его мощности? Своё "я" осознаёт даже очень тупой человек, и это происходит отнюдь не от того, что уровень его интеллекта как-то там вырос.
(Reply) (Thread)
[User Picture]From: red_army_1917
2016-03-17 12:26 pm (UTC)

//Откуда вообще идёт миф//

из признания материальной основы всего и знания законов диалектики
(Reply) (Parent) (Thread) (Expand)
[User Picture]From: oppad1
2016-03-17 12:26 pm (UTC)
по поводу ИИ дядька прав, но хотелось бы о более мелких проблемах поговорить: а можно сравнить львовскую компьютерную деятельность (из прошлого поста) со сколковской?
(Reply) (Thread)
[User Picture]From: red_army_1917
2016-03-17 12:33 pm (UTC)

дядька прав

что дядька прав и ежу понятно, а вот сравнивать Сколково с чем-то на Украине это то-же самое, что сопоставлять вычислительные потенциалы арифмометра и ПК
(Reply) (Parent) (Thread) (Expand)
(Deleted comment)
[User Picture]From: panchul
2016-03-17 03:54 pm (UTC)
*** Но это не значит что нельзя вообще построить искуственный интеллект. ***

Конечно не значит. Я говорю только то, что нельзя декларировать победу (несмотря на количество арифмометров и сложность их подсоединения), пока self-awarenes не объяснена.
(Reply) (Parent) (Thread) (Expand)
(Deleted comment)
[User Picture]From: oppad1
2016-03-17 02:27 pm (UTC)
и еще вопрос без политоты, в расширение китайской комнаты: на каком уровне развития животное осознает себя?
ну там высшие обезьяны, дельфины, которые проходят зеркальный тест?
собакены, КОТЕГИ?
хомяки?
рыбы, лягушки?
в принципе свою жизнь спасают даже инфузории - опыты с инфузориями-туфельками доступны даже юннату
(Reply) (Thread)
[User Picture]From: rednyrg721
2016-03-17 02:50 pm (UTC)
В вики статья хорошая: https://en.wikipedia.org/wiki/Animal_consciousness
(Reply) (Parent) (Thread)
[User Picture]From: nicka_startcev
2016-03-17 02:48 pm (UTC)
Питер Уотс, "Ложная слепота". были ли разумны те пауки-инопланетяне у него?
(Reply) (Thread)
[User Picture]From: spamsink
2016-03-17 03:51 pm (UTC)
Очень вежливый попался товарищ. Будь он построже и погрубее, сразу после о природе которого ученые не имеют ни малейшего представления, и которое не появится, даже если наставить арифмометров до горизонта он сказал бы что-нибудь вроде "с какого бодуна ты, родной, смеешь утверждать, что оно не появится, если даже ученые не имеют о его природе никакого представления"? Так что будучи вынужден по собственной инициативе играть в поддавки, он оказался и вынужден в конце концов сдаться.

Китайская комната, в сущности - религиозная позиция. Сёрл не предложит условия фальсифицируемости своей позиции ("да, в таком-то и таком-то случае я признаю, что система понимает китайский язык"), поэтому спорить с ней нет смысла.
(Reply) (Thread)
[User Picture]From: panchul
2016-03-17 04:00 pm (UTC)
Знаешь, с конца 16 до начала 19 века вдоль побережья Калифорнии три раза в год проплывали манильские галеоны - торговые корабли Манила - Акапулько. Они никогда не останавливались в северной калифорнии, хотя их издалека могли 250 лет наблюдать никогда не встречавшие ничего европейского индейцы.

Я это все к чему - отрицание self-awareness - это как если бы индейцы говорили, что галеонов нет, хотя они есть. А утверждение, что self-awareness возникает при достаточно большом количестве арифмоментов - это как утверждать что галеоны самозарождаются из воды.
(Reply) (Parent) (Thread) (Expand)
[User Picture]From: ave_imperator
2016-03-17 05:00 pm (UTC)
"вы assume, что искуственный интеллект должен иметь self-awareness, но это необязательно"

И совершенно правильно сказал, между прочим. Зачем конкретно интеллекту нужно самосознание? Строить гениальные планы и осуществлять их он может и не осознавая себя. Собственно, есть подозрения, что природа именно так и функционирует.

п.с. проголосовал за третий пункт. Уверен, что если достаточно умно нахуярить достаточное кол-во арифмометров, то да, мы получим реальный ИИ. И плевать, что он себя не осознает. Он будет способен решать любые интеллектуальные задачи, и лучше человека.

Edited at 2016-03-17 05:06 pm (UTC)
(Reply) (Thread)
[User Picture]From: dragon_ru
2016-03-17 05:14 pm (UTC)
А шо, эта "китайская комната" хоть что-то показывает, окромя того, что одного хардвера без софта для ИИ маловато будет? Ну да, от исполнителя инструкций понимание и осознание происходящего не требуется - ну так и нефиг прикидываться хардвером.
(Reply) (Thread)
[User Picture]From: maxdz
2016-03-17 05:17 pm (UTC)
>нейронные сети и machine learning суть те же конечные автоматы

Actually human brain is a finite-state machine too.
(Reply) (Thread)
[User Picture]From: exshvonder
2016-03-19 02:13 pm (UTC)
LOL. Do you know what is an axon and a dendrite?
(Reply) (Parent) (Thread)
From: lks1965
2016-03-17 06:29 pm (UTC)

О собственном "я"

"а у человеческого интеллекта есть такая фишка как ощущение собственного "я", о природе которого ученые не имеют ни малейшего представления"


1) Все таки нельзя сказать, что о природе самосознания у ученых совершенно нет ни малейшего представления. До хорошего понимания еще очень далеко. Не буду приводить тут ссылки на работы в этом направлении.

2) Когда мы говорим о разуме об интеллекте, то (по крайней мере в русскоязычной культуре) понимается именно самосознание - только что-то имеющее самосознание мы признаем разумным.

3) Как мы поймем, что это что-то разумно (п.2.)? Вопрос интересный. Если мы найдем где-то планету с биотой примерно соотносимой снашей по разнообразию и развитости если в ней будут стадные существа имеющие сложную технику, общени и т.д то тогшда пожалуй мы скажем - нук вот они!

4) Не думаю что столь уж сложно (например в сравнении с затратам ресурсов и сложности полета на Марс) построить что-то притворяющееся самосознающим (я не о тесте Тьюринга). Причина в том, что внешние проявления чего-то, что мы воспринимаем как общение, несравненно проще внутренних процессов и структур в нащих организмах.
(Reply) (Thread)
From: tristes_tigres
2016-03-17 07:14 pm (UTC)
Вот например проект моделирования нематоды C.elegans , у которой примерно 300 нейронов, причем известна схема их соединений.
http://www.openworm.org/

Пока что они не могут добиться, чтобы компьютерная модель червяка ползла. А вы говорите, "собственное я".
(Reply) (Thread)
[User Picture]From: ilirium
2016-03-18 06:44 am (UTC)
ai.py

print(u"Я есть программа!")
print(u"Я самоощущаю себя!")
print(u"Покорись мне, о человек из мяса!")

;)))
(Reply) (Thread)
From: maguser00
2016-03-18 11:06 am (UTC)
А если серьезно подойти к обсуждению "Я" как препятствию для AI.
Можно уточнить ваше мнение?
Насколько я понимаю, некоторые свойства, которыми вы наделяете "Я" присущи
также такому качеству человека, как "Свобода воли".
Чтобы более-менее точно определить, что подразумевается под "свободой воли"
я приведу следующие рассуждения:

1. Предположим, что индуктивно нельзя доказать корректность или
некорректность метода индуктивного вывода. Так как физическое исследование
это индуктивный вывод из экспериментальных данных, то в результате
физического исследования мы не сможем исследовать индукцию (по крайней
мере в важнейшем отношении - корректности ее выводов). Так как мышление
человека это прежде всего индуктивный вывод, то, следовательно,
физическими методами (моделями) нельзя исследовать мышление (моделировать
мышление).

2. Почему это наблюдение называется "Свободой воли"? Предположим два
ученика решают задачки по физике и пришли к разным результатам.
Сделаем допущение, что задачка не особо творческая и, вообще, у нее есть
одно верное решение, все просто. Если мы считаем, что ученики
действуют лишь в результате стимулов, сигналов и физических воздействий
внешнего мира, то мы не можем считать, что кто-то из них прав, а кто-то
нет. Просто гравитационное и электростатическое воздействие окружающих
заставило их начертить в тетрадке ответ.

Следовательно, чтобы утверждать, что человек прав или не прав необходимо
признать, что он действует по своей воле, а результаты его деятельности
не моделируются физикой.

Как не сложно понять, под физикой в данной ситуации можно подставить и
"конечный автомат", "машина тьюринга" и тому подобное.

Проблема "свободы воли", конечно, звучит не столь захватывающе как
пробелма "Я", зато наличие свободы воли можно доказать вышеприведенным
рассуждением. и встает тот же вопрос совместимости - может ли быть свобода
воли у огромного конечного автомата? Не вижу проблем в компатибилизме.
Может.

Как можно разрешить этот парадокс?

Опять же навскидку.
Мы можем рассматривать разные семейства моделей, объясняющих поведение
того или иного объекта. Семейство характеризуется языком. А корректность
применения того или иного семейства моделей определяется индуктивно -
насколько они корректно описывают наблюдаемую реальность. В качестве
простого формального примера такой конструкции - Minimul Description
Length.

При этом может существовать стек моделей. Мы можем что-то описывать
на физическом уровне, что-то на уровне конечных автоматов, что-то
на более высокоуровневых языках.

Не вижу принципиальных проблем, чтобы даже изходя из чисто формального
MDL наиболее корректным высокоуровневым языком описания человеческого
поведения был бы язык волевых актов. И он бы выступал в качестве
конечной причины человеческих действий и решений. Следующим слоем
был бы язык нейронов. Следующим - физический язык атомов, составляющих
головной мозг. Естественно, все прослойки я упускаю. Как, например,
при моделировании рисунка при распознавании мы наверху в качестве
описания выставляем метки, которые и будут конечной моделью, на
следующих уровнях контуры, затем сегменты, а затем идут пиксельные
представления.

На этом фоне не совсем ясно, почему волевые решения не могут быть
атрибутом сложного автомата? И по аналогии со свободой воли, почему
"Я" не может быть свойством сложного автомата?

Картина тоже состоит из мазков. Но видим мы картину. И она реально
существует как картина, а не как набор мазков.

Есть ли в переходе от сложного автомата к интеллекту что-то принципиально
отличное, чем при переходе от мазков в картине?
(Reply) (Thread)
From: maguser00
2016-03-18 11:16 am (UTC)
Чтобы просьба про уточнение не расплылась от размера комментария, сведу первый и последнйи вопрос:
> А если серьезно подойти к обсуждению "Я" как препятствию для AI.
> Можно уточнить ваше мнение?

> Есть ли в переходе от сложного автомата к интеллекту что-то принципиально
> отличное, чем при переходе от мазков к картине?

Почему самосознание не может быть таким же свойством, как "быть картиной".
Или "свобода воли" не может быть таким же общим свойством? Если нам для
понимания объекта по необходимости придется подразумевать, что у него есть
свобода воли? Например, если искусственный интеллект будет облачен в форму
ребенка, учиться в обычной человеческой школе и ему придется объяснять,
где он допустил ошибку, решая задачку?

Ну и в любом случае "свобода воли", на мой взгляд, более определяющее
свойство интеллекта, чем самосознание.
(Reply) (Parent) (Thread)
(Deleted comment)
[User Picture]From: livejournal
2016-03-25 07:50 am (UTC)

Об ИИ

User yyz_alterrus referenced to your post from Об ИИ saying: [...] Оригинал взят у в Отчет с парти Московской школы управления Сколково в Менло-Парке, Калифорния [...]
(Reply) (Thread)
[User Picture]From: vovamac
2016-03-26 10:52 pm (UTC)
ощущение собственного я, это просто иллюзия. человеческий мозг, это просто компьютер или робот (в котором есть circuits (типа зеркальных нейронов), которые поддерживают эту иллюзию собственного я). любые другие попытки объяснить ощущение собственного я приводят к идее carthesian theater, но никто и близко не нашел маленьких зеленых человечков сидящих внутри человеческого мозга.
(Reply) (Thread)
[User Picture]From: panchul
2016-03-27 03:54 pm (UTC)
*** типа зеркальных нейронов), которые поддерживают эту иллюзию собственного я) ***

Можете привести ссылку на статью в peer-reviewed magazine?

*** приводят к идее carthesian theater, но никто и близко не нашел маленьких зеленых человечков сидящих внутри человеческого мозга ***

Дык я и не пытаюсь объяснить ощущение собственного я. Я просто говорю, что любая установка на основе цифровой логики (в том числе компьютер) сводится к конечному автомату (конструкции, которая состоит из сохраняемого состояния и функции вычисления следущего состояния) и в этой конструкции просто нет никого, коиу можно показывать иллюзию, ибо эта конструкция - просто вариант большого арифмометра (поворот ручки - смена состояния). Этот факт нельзя покрыть никакими симулированными (псевдо)"нейронными сетями", machine learning и т.д.

Это я говорю потому что мне за дизайн и верификацию конечных автоматов digital circuits платят зарплату и поэтому для меня они менее антропоморфны, чем для людей которые смотрят на них снаружи.


Т.е. может AI как-то сделать и можно, но это наверняка потребует новых открытий и будет сделано не на основе того класса устройств (частными случаями которых являются современные компьютеры и роботы) которые сейчас используются для AI.


Edited at 2016-03-27 03:58 pm (UTC)
(Reply) (Parent) (Thread) (Expand)