Общество по защите прав роботов

Tатарин>)...

Во во.

Они говорят мы сами не знаем что происходит там внутри .

Вот я и обалдел.

Tатарин>>)...
кщееш> Во во.
кщееш> Они говорят мы сами не знаем что происходит там внутри .
кщееш> Вот я и обалдел.
С чего?

Нейросеть - такая штука, что, конечно, ты можешь заглянуть внутрь и просмотреть массивы весов... Просто это никакого понимания не даёт. Потому что нет привычной и понятной последовательности действий, причин и следствий. Просто огромный набор чисел, которые перемножаются и засовываются в некие (достаточно простые) функции. И так много-много раз.

Нет никакой конкретной точки, про которую можно было б сказать "вот тут принято решение". В лучшем случае ты можешь увидеть, какие нейроны активируются. Ну и, конечно, в случае конкретного действия ты можешь знать, какие нейроны и как должны быть активированы - это ж ты сам и придумывал.

Но вот сама сеть... Просто мегабайтные простыни весовых коэффициентов.

Кстати, медики на это уже напоролись: есть сети, которые офигительно хорошо ищут признаки рака на сканах и в анализах. Есть сети, которые лучше врачей ставят диагнозы по анализам, не видя пациента (пока ещё не видя, тут у врачей пока фора).
Но раз они (хоть и работают лучше врачей) пока ещё ошибаются, а ты не можешь сказать, почему сеть пришла к тому или иному решению... применять это в реальной практике оказалось почти невозможным. Ошибка в диагнозе рака в любую сторону - очень тяжелые последствия. Кто будет брать ответственность?
Всё как в старой фантастике 50-х...

Сейчас средства отладки развиваются, но, боюсь, они опаздывают лет на пять, а скоро опоздают навсегда. Сложность сетей наращивать можно бесконечно, вопрос железа. А вот способности человека понимать и отлаживать - ограничены возможностями фиксированного мозга.

Шах и мат, хлюпкая биомасса.

Tатарин>>>)...
кщееш>> Во во.
кщееш>> Они говорят мы сами не знаем что происходит там внутри .
кщееш>> Вот я и обалдел.
Татарин> С чего?


Со страху, знамо дело.
Эта фантастика близка . Оказалось .


Татарин> Шах и мат, хлюпкая биомасса.

И не знаешь кого стрелять .

Татарин> Нет никакой конкретной точки, про которую можно было б сказать "вот тут принято решение".
Практически нет, теоретически есть. Т.е. можно разобрать и понять, но на это уйдёт времени и ресурсов намного больше, чем сама сеть. И точка тут скорее окружность (интервал, если говорить в терминах простых аналогий). Т.е. теоретически, как с доказательствами в чистой математики — берём все случаи и готово, а практически, как в той же прикладной приходится искать доказательства и решения, которые можно применять в жизни просто людьми.

Татарин> Сейчас средства отладки развиваются, но, боюсь, они опаздывают лет на пять, а скоро опоздают навсегда.
Тут надо парадигму менять. Просто так уже отстали давно и безвозвратно. Ещё с самого начала не только нейросетей. Как только сложность некоторых задач вышла за пределы понимания человеком за приемлемое время. Те же самые компиляторы уже были началом. С оптимизирущими было очень показательно в частности. А уж всякие доказательства из алгебры для разных конечных групп и алгебр, которые были выполнены полным перебором на компьютерах — вроде бы было понятно, а фиг докажешь. Как там любят говорить математики — конечное, но неограниченное число — у обычного народа вызывает полный разрыв шаблона.

кщееш> И не знаешь кого стрелять .
Да стрелять-то понятно кого. Нейросети — это не одна большая, а отдельные. Ну и носители есть, так сказать, бренные тела. Поскольку там связи между узлами, то либо влияние очень нефиговое друг на друга, либо достаточно обособлены большие области. Т.е. по сути, как у людей. Каждый человек — нейросеть (и не одна). И друг другу инфу передают. И понятно, кого стрелять.

кщееш>> И не знаешь кого стрелять .
Mishka> Да стрелять-то понятно кого. Нейросети — это не одна большая, а отдельные. Ну и носители есть, так сказать, бренные тела. Поскольку там связи между узлами, то либо влияние очень нефиговое друг на друга, либо достаточно обособлены большие области. Т.е. по сути, как у людей. Каждый человек — нейросеть (и не одна). И друг другу инфу передают. И понятно, кого стрелять.

Ну вот однажды появляется новость . Что ваш очередной Майкрософт тогось. Обновился и

Тяперича с ИИ.
Кого стрелять .

кщееш> Тяперича с ИИ.
Не, тут не ИИ. Тут нет того самообучения, как в примере с нейросетями. С нейросетями, если там залочены генетические алгоритмы обучения, взяв два одинаковых компа и один и тот же набор данных получаешь два экземпляра, которые не одинаковы. Те самые мегакилобайты весовых коэффициентов будут "похожи", но разными. Почти, как у людей — близнецы, у одних учителей учились, но не абсолютно одинаковы.

кщееш> Кого стрелять .
Ну, в случае MS — тут даже долго выбирать не приходится.

Татарин>> Нет никакой конкретной точки, про которую можно было б сказать "вот тут принято решение".
Mishka> Практически нет, теоретически есть. Т.е. можно разобрать и понять, но на это уйдёт времени и ресурсов намного больше, чем сама сеть.
Я сам успел повозиться с отладкой простой нейросети. Не все так однозначно, да.

Wyvern-2> Самое смешное, что большинство людей, причем людей грамотных, продолжает ставить знак = между "нейросеть" и "интеллект" или (тем паче) "сознание"... А между тем в это время в замке шефа уже практически доказано, что сознание и интеллект это не продукт работы мозга именно как нейросети - точнее, нейросети в классическом понимании этого слова
Видишь ли, все это очень интересно и увлекательно в философском плане... но на практике то, что плавает, крякает, летает, выгляди и пахнет как утка - называют уткой. Тем более, если оно как утка на вкус.
Это во-первых.

Во-вторых, поскольку нет математического определения интеллекту (не говоря уж о некоем "сознании") - нет и никаких "доказано". В лучшем случае, "доказательства" что я видел, даже у технарей сводятся к неопределенным жестам в воздухе и попыткам поиграть неопределенными гуманитарными терминами.

В-третьих, было много забавных гипотез (один Пенроуз чего стОит), но на практике все не раз оказывалось иначе, гораздо проще и сложнее. И иначе - любом случае.

В-четвертых, и это главное: нейросеть - не копия мозга. И даже не его аналог. Но вне зависимости от этого в обозримое время мы МОЖЕМ получить самообучающуюся систему, способную к саморазвитию и самостоятельному целеполаганию (эксперимент с самостоятельной выработкой языка с нуля примитивными сетями показывает, как это может быть).
Будет ли это "сознанием" или нет - неважно, если ее цели пересекутся с нашими крестом. Итог для нас может быть удивительным в любом случае. Система может быть вообще из палки с веревкой, но если она обладает непредсказуемостью и способность причинить вред - это проблема. А если к этому добавляется способность к экспотенциальному росту - это проблема уровня "П.здец".

О том, чтобы исключить внезапные и неприятные причины для удивления, думать нужно сейчас. Прямо вот сейчас. И тут не об "этике" нужно думать и не о эксизтенциальных основах эзотерического познания кибер-эсхатологии.

Перед нами встает либо очень сложная инженерная задача, либо политическая ("как больно дать инженерам по рукам?").
Вгт прямо сейчас уже и ребром.

Wyvern-2> Самое смешное, что большинство людей, причем людей грамотных, продолжает ставить знак = между "нейросеть" и "интеллект" или (тем паче) "сознание"... А между тем в это время в замке шефа уже практически доказано, что сознание и интеллект это не продукт работы мозга именно как нейросети - точнее, нейросети в классическом понимании этого слова

Ник, он не обязан быть человеческим — этот интелект. Он может быть совершенно другим. Вот будет самообучение, вот будет целеполагание, а потом и оценки для чего это надо. И всё, приплыли. Самое интересное, что на данный момент в нейросетях, в отличии от человеческого разума, можно сделать дамп этих гигамегакилобайт. И загрузить в другую за очень малое время. Обучение, фактически, до нужного уровня мгновенное. Ну, или смена специализации на ходу. Можно ведь иметь свянную сеть нейросетей и подгружать только одну или несколько. И в случае войны (с теми же людьми), штамповка тех же солдат становится делом производства тела, а обучение...

Татарин> Я сам успел повозиться с отладкой простой нейросети. Не все так однозначно, да.

Я совсем давно ковырялся с самыми простыми. И вот нашёл все связи, оценил все изменения весовых коэффициентов. Понял, как дошли до жизни такой. А вот почему именно эти коэффициенты лучше соотвествуют реальности, почему эта модель лучше, чем то, что у тебя — тут всё и кроется, ИМХО.

Mishka> Не, тут не ИИ. Тут нет того самообучения, как в примере с нейросетями. С нейросетями, если там залочены генетические алгоритмы обучения, взяв два одинаковых компа и один и тот же набор данных получаешь два экземпляра, которые не одинаковы. Те самые мегакилобайты весовых коэффициентов будут "похожи", но разными. Почти, как у людей — близнецы, у одних учителей учились, но не абсолютно одинаковы.

Да, это понятно . Пусть один ии объясняет другому им почему тот не ии нифига и его место у...

Татарин>> Я сам успел повозиться с отладкой простой нейросети. Не все так однозначно, да.
Mishka> Я совсем давно ковырялся с самыми простыми. И вот нашёл все связи, оценил все изменения весовых коэффициентов. Понял, как дошли до жизни такой. А вот почему именно эти коэффициенты лучше соотвествуют реальности, почему эта модель лучше, чем то, что у тебя — тут всё и кроется, ИМХО.
А сколько у тебя было нейронов? и сколько слоёв, если архитектура "послойная"?

Wyvern-2>>.... практически доказано, что сознание и интеллект это не продукт работы мозга именно как нейросети - точнее, нейросети в классическом понимании этого слова
Татарин> Видишь ли, все это очень интересно и увлекательно в философском плане...

В каком, нахрен, "философском"? В самом прямом - технико-биологическом! Мало того, сегодня даже уже найден прямой механизм ТАКОЙ функции нейронной сети мозга: Астроциты принимают активное участие в ремоделировании нервных цепей

А вот описание волновых процессов, видимо являющихся основой работы интеллекта и сознания:

Как ты можешь увидеть классическая теория нейросетей к ТАКОМУ типу работы - на основе спонтанной активности - как то мало относится Хотя, несомненно, они участвуют в классическом виде при обработке сигналов...

Татарин> А сколько у тебя было нейронов? и сколько слоёв, если архитектура "послойная"?

Это было в качестве личного интереса, чтобы понять. Поэтому слоёв было три, нейронов штуки по 3-4 в слое. На большее уже в смысле разбора не потянуть. Задачки были из серии преоброзовать некоторые данные типа аналоговых в условиях шума в цифровые — очень простая.

Wyvern-2> Как ты можешь увидеть классическая теория нейросетей к ТАКОМУ типу работы - на основе спонтанной активности - как то мало относится Хотя, несомненно, они участвуют в классическом виде при обработке сигналов...
Стохастические функции активации - не новость и в программных моделях. Но ты пропускаешь ключевое: да, конечно, нынешние программно-релизованные нейросети лишь напоминают мозг, и работают по совсем иным моделям.
Но какая разница, если на этой основе можно соорудить штуку, которая решает задачи своим способом?

Ну и я не говорю, что сильный ИИ появится завтра... а что до послезавтра - послезавтра в нейросети могут включить и то, что найдено сейчас. Ты не заметил, что автор этой статьи обсуждает свои идеи на примере моделируемой его кодом нейросети? не на примере живого мозга, а именно на программной модели?

Идеи и конструкции нейросетей быстро прогрессируют. Ты удивишься, но нет какой-то фиксированной штуки "компутерная нейросеть", это совершенно разный код, с разной топологией сети, принипами работы, устройством и функцией активайии нейронов, способом обучения... да и всем остальным. Общего у них разве что самая базовая идея.

Wyvern-2>> Как ты можешь увидеть классическая теория нейросетей к ТАКОМУ типу работы - на основе спонтанной активности - как то мало относится ...
Татарин> Но какая разница, если на этой основе можно соорудить штуку, которая решает задачи своим способом?

В том то и дело, что по-видимости - НЕЛЬЗЯ Человеческое сознание и интеллект не есть продукт работы нейронной сети в классическом виде...

А теперь прикинь объём связей появляющийся при таком функционировании по сравнению с классическим дендрит-аксонным... И сразу станет ясно, что до моделирования сознания и полноценного интеллекта нам как до Пекина в коленно-локтевом...

Татарин>> Но какая разница, если на этой основе можно соорудить штуку, которая решает задачи своим способом?
Wyvern-2> В том то и дело, что по-видимости - НЕЛЬЗЯ Человеческое сознание и интеллект не есть продукт работы нейронной сети в классическом виде...
Тебе в третий раз говорю: не нужно "человеческое сознание", что бы ты там под этим ни понимал. И даже "человеческий интеллект" не нужен.
Машина может сама решать дико сложные задачи и без этого. Машина может сама учиться решать сложные задачи и без этого. Машина может сама ставить задачи, которые будет учиться решать - без этого.

И этого достаточно для создания проблем, даже если машину назовут бездуховной и бездушевной.


Wyvern-2> А теперь прикинь объём связей появляющийся при таком функционировании по сравнению с классическим дендрит-аксонным... И сразу станет ясно, что до моделирования сознания и полноценного интеллекта нам как до Пекина в коленно-локтевом...
Как раз по предельной связности вычислительные модели выигывают у любых физических. Вплоть до "все со всеми". Было б достаточно мощности... а ее вполне может и хватить.
И еще, еще раз: речь не идет об эмулировании мозга или человеческих паттернов поведения. Речь идет о чем-то новом, что будет эффективно решать поставненные им же задачи.
И запросто может оказаться так, за задача умножения человечества на нуль такой системой решается эффективнее, чем человеком решаетсч задача сведения к нулю таких машин.

Может быть, эта машина не будет писать стихи и воспевать грациозную красоту юных девственниц. Может быть, она будет куда проще и вообще не иметь ничего похожего на самоосознание.

Но вот автомат сопровождения цели ничего такого и близко не умеет. Но пулемет наводит точно. Точнее, чем человек.