Дэн Симмонс Тетралогия "Гиперион"

Почему тебе кажеться, что если ты создал некое устройтсво то ты обязательно будешь понимать как оно работает? Вот создатели Виндоувс вовсе не понимают откель глюки беруться
прочитать мысли искина ничуть не проще, чем человеческие. Даже если ты отловишь все сигналы по шинам - а что именно есть его мысли?

А воевать с искинами, которым порученно (и иначе невозможно!) управление ВСЕМ черевато немедленным Скайнетом Кроме того, с этической точки зрения, почему искин не имеет прав личности? Неграм вот дали, животных вот по закону охраняютЬ...

Ник

>Почему тебе кажеться, что если ты создал некое устройтсво то ты обязательно будешь понимать как оно работает?
А почему тебе кажется, что я принципиально не смогу понимать, как оно работает?

>Вот создатели Виндоувс вовсе не понимают откель глюки беруться
Ну и кто им доктор? И потом, разве глюки - порождение одной лишь винды? Уверен, что голая Винда, даже 95я, вполне живучая прога.

>...прочитать мысли искина ничуть не проще, чем человеческие. Даже если ты отловишь все сигналы по шинам - а что именно есть его мысли?
Извини, но если я способен отлавливать все сигналы по шинам, то я знаю вообще все его состояние. И мысли, и не мысли. Раз я его сделал. Весь трабл может возникнуть только от того, что я не позаботился о контроле над ним, и том же универсальном пароле Администратора, и прочих Засекреченных Директивах Номер Четыре, после чего пустил развитие системы на самотек под воздействие других внешних факторов.

>А воевать с искинами, которым порученно (и иначе невозможно!) управление ВСЕМ черевато немедленным Скайнетом
Аха, управление всем, и такое, что ну никак не защищено от любого сбоя этого самого Скайнета. Ты веришь в то, что люди положат все яйца в одну корзину? Да еще такую уё..ю, как софтверная?

>Кроме того, с этической точки зрения, почему искин не имеет прав личности?
Потому что я им права такого не дал. Опять имеем глюк: Симмонс сам нихрена не знает, что такое личность, а просто 3.14шет, что у этой електронной фигни она есть. В итоге вопрос вообще-то надо задавать Симмонсу. Если бы я знал, как аппаратно личность реализуется, я бы ответил сам.

>Неграм вот дали,...
Мы умеем конструировать негров? Или нашли какое-то их существенное отличие от нас, не-негров? Знаем принципы их функционирования?

>...животных вот по закону охраняютЬ...
Мы умеем конструировать животных? Знаем принципы их функционирования? А может, у них есть права, как у людей?

Balancer>Вообще-то, у Симмонса прекрасно описано, почему оно так вышло И почему люди ничего не могли поделать.
В упор не помню. Видать, когда читал это место, просто принял как условие - фантастика все-же, пущай сочиняет, имеет право. Вот уж не думал, что в этом заключалась ну прям такая вся ценность произведения.

Ник, ты, будучи дипломированным специалистом, все ещё занимаешься подменой понятий "принципиально неуловимый" и "нахер никому не нужен"?

Поясню маленько: человек с удовольствием юзает новые девайсы, но никогда не позволит им иметь приоритетное, неконтролируемое собственное мнение по поводу того, как поступить, если от этого будет зависеть что-то важное. Тут голливудские параноики, лепившие "I, Robot...", ближе к истине в смысле описания чел. реакции, чем Симмонс, ИМХО. Хотя и перегибаютЪ, у Азимова лучше.

Чем интересен "Гиперион" - там практически нет вопросов без ответов. В том или ином виде, не в первой, так в четёвртой книге, закрываются практически все лакуны

А ситуацию с искинами Симмонс мог бы даже и не разжёвывать, там исходя из самого мира становится всё ясно.

Собственно, к тому времени, когда искины стали угрожать людям:
- Люди полностью зависели от них.
- Люди элементарно не знали, где находится, так сказать, "штаб-квартира" искинов. Непонятно, кого атаковать

Как только вторая часть открылась, люди (в лице Гладстон), пусть и путём больших потерь для цивилизации, избавились от первого пункта

>Чем интересен "Гиперион" - там практически нет вопросов без ответов.
Скорее тем, что они не так уж разочаровывающи. У тех же АБС дохрена произведений без ответов, и вполне интересных.

>Собственно, к тому времени, когда искины стали угрожать людям:
>- Люди полностью зависели от них.
ОК.

>- Люди элементарно не знали, где находится, так сказать, "штаб-квартира" искинов. Непонятно, кого атаковать
А вот это и есть западло. Если бы все люди были такими, как Симмонс, м.быть, такое и случилось бы.

>Даже сейчас, девайсы, не имеющие интеллекта, давно уже могут выполнять действия, неподконтрольные своим хозяевам.
Самостоятельно принимающие решения? Принципиально непознаваемые и неконтролируемые? Вот я заведу старый будильник, и лягу спать. Я его не контролирую, и он, сволочь эдакая, начнет мешать мне спать в 6 утра.

>От автоматического обновления компонентов системы (всё чаще этот момент требует всё меньшего внимания)...
Опять же, это тот самый "неуловимый" Джо.

>... кончая полностью неподконтрольного хозияну участия систем в распределённых вирусных системах.
Для хозяина это тоже Джо, он таким и задумывался.

>А что будет, когда появится ИИ?
Вот именно - ХЗ. Симмонс имеет право фантазировать что угодно, пока реального ИИ нету. Но Ник-то намекает на то, что надо к его фантастике отнестись более серьезно, что там нечто нетривиальное для нас, ныне живущих. Или я не правильно его понял?

>А что будет, когда с ним бок-о-бок будут прожиты тысячи лет?
Люди друг с другом живут бок-о-бок тысячи лет. Вряд ли непознанность нами слепленного ИИ будет существенно превосходить непознанность соседа по этажу.

Balancer>Вообще-то, посмотри вокруг. Люди они такие
Все?! Это важно.

>В принципе, если ИИ, задумав устроить подлянку, при этом хватит выдержки (а что такое время для компьютера?), то человечество помешать не сможет.
Это ничем не отличается от маньяка, получившего доступ ко всему. Людям свойственно не доверять друг другу и перестраховываться. К перспективным машинам для работы на ответственных местах и имеющим хотя бы зачаткии ИИ, требования от общественности будут такие, что разработчики будут ходить с ведрами вазелина. И все равно все яйца в одну корзину люди ни в жисть не положат.

>Человек испокон веку стремится переложить на плечи машин всё тяжёлое, трудоёмкое и неинтересное. Так что, как только ИИ потянет управлять производствами - он будет ими уравлять. Будет управлять производством - со временем сможет делать столько своих компонентов, сколько сочтёт нужным.
У него никогда не будет способностей по принятию таких решений.

>При чём в тайне от людей.
Тем более.

>Посему со временем люди элементарно не будут знать об ИИ ничего.
Да не дадут его развитие ему же на откуп, без кнопки.

>Если же ИИ перейдёт и на иные физические принципы - вообще кранты
Ему оторвут его искусственные яйцы, но вытрясут эти самые принципы.

Wyvern-2>Представим себе жизненный цикл сложной, действительно сложной системы, например - химкомбината с сложным циклом, большую микросхему, операционную систему,крупную компсеть, А-380, авианосец, небоскреб и проч. Существует некая ГРУППА людей, довольно большая - сотни/тысЧи человек разработчиков (технологов, эксплуатантов, финансистов) Каждый из них будет знать некий участок, часть целого - та будет и на стадии проектирования и при эксплуатации.
ОК. Обрати внимание, кто-то эту систему проектировал, на какие-то уже известные ему физ. принципы и существующие конструкции закладывался. Т.е. есть некто, кто разберется, если захочет. Все траблы - только в результате взаимодействия девайса с окружающей средой. Вот Вселенную - да, фиг проконтролируешь. Ну дык ее не мы создавали.

>Предположим, что появился некий субъект (или тот же коллектив решил обменяться знаниями друг с другом), желающий понять как "это работает" - т.е. узнать, проанализировать, понять все взаимосязи...он начинает общаться с коллективом, узнавая все больше - предположим, что память у этого человека/коллектива неограниченна
Неограниченна? Отлично.

>Так, вот время, необходимое для такой коммуникации будет существенно превышать либо цикл существования системы, либо цикл существования человека
Гыыы. Так речь идет о скорости разговора и беготне от одного быдлокодера до другого? Ник, параллельно с ИИ будет писаться не просто дока на бумаге, а прога для объяснения и контроля всех процессов. И челу не нужно будет рыться с дизассемблером, чтобы понять ее работу, но в принципе он это сделать сможет.

Положение от Симмонса: мы умеем делать ИИ. На человеческом языке это значит:
1. Мы знаем критерии ИИ. Не дебильно-философские, а аппаратно-функциональные.
2. Сформулировали условия, при которых эти критерии могут быть удовлетворены.
3. Мы способны сделать соотв. хард->есть гарантии, что данные физ. принципы допускают построение и функционирование железа с требуемыми в 2 условиями.
4. Способны проконтролировать собственно целевую работу девайса, т.е. напрямую измерить, удовлетворяет ли работа нашей херовины критериям в 1.

Дык вот: системы контроля за критериями 1, условиями 2, физикой в 3 не требуют ИИ (и не могут этого требовать, по определению), достаточно естественного.
И развиваться эти системы будут параллельно с развитием ИИ. Если крутеют строители, то крутеют и ремонтники, и спецы по демонтажу.

>А система тем временем будет жить как ей в голову взбредет - и. если по стопам Феймана, спросить у любого человека, с этой системой работающего, а "что будет, если этот кран закрыть, а этот одновременно открыть?" то удивленное выражение его лица (после оооочень долгого разбора полетов - намного более долгого, чем время такого события) ты увидишь обязательно
А зачем спрашивать у любого, пусть даже с нею и работающего? Вот если бы ты сказал: а вот если спросить любого чела вообще...

>Таким образом мы-люди, лишь воображаем себе, что мы знаем как оно работает - на самом деле такими знаниями обладает голем - коллективный разум разработчиков и эксплуатантов.
Фигня.

>На который отдельный человек может повлиять только через теорию сложных систем Которая, в свою очередь, вовсе не объясняет КАК такие системы работают.
Уверен, эта теори занимается в т.ч. методами контроля за сложными системами.

>P.S. ИскИн же - система невообразимой сегодня сложности.
Вот именно. Поэтому можно 3.14сать все, что угодно. Но требовать серьезного отношения к написанному - индейская народная изба.

Например, вот к этому:
>Так, что человек даже не сможет узнать критерии, по которым возможно (или не возможно) определить - "а возникло ли у искина вообще собственное мнение?"

Balancer>Это вопрос не принципиальный.
Для хвилософов - принципиальный, иначе бы тот же Ник так старательно не подменял понятия.

>Сегодня вирус пишет человек, завтра его будет писать ИИ. Сегодня ОС пишет, опять же, человек. Завтра, опять же, будет писать ИИ.
Мыльте, когда ИИ появится.

>И сможет он встроить произвольное число закладок, да так, что найти их никто не сможет.
Да кто ж ему даст-то?

>Ибо сложность систем превысит возможности безкомпьютерного анализа, а с компьютером человек будет видеть только то, что ему покажет ИИ
Аха, щас. Уже любой компьютер==ИИ?

>Принципиальная уязвимость человека в этом вопросе - это его неумение работать с современными представлениями информации без посредника.
Это без ИИ-то?

>Ну так посмотри на своих соседей, как легко они отдают право решения другим людям.
Я вам намекал на неабсолютную степень доверия к ним.

>А теперь представь, что это не люди, а инструменты.
Всегда бывают запасные, а не единственные в мире.

>Привычные, послушные. Уже сейчас тебе GPS-навигатор рекомендует "свернуть через 300 метров направо" и ты его слушаешься. Или когда Windows тебе предлагает перезагрузить компьютер в связи с обновлением драйвера - вряд ли, задумываешься о том, а зачем оно.
Задумываюсь. Шож эта сволочь в реестр понаписала? Время от времени заглядывают туда. Чищу.

>Я запускаю сетевую игру в DMZ-сети и с удивлением обнаруживаю у себя на односторонне закрытом firewall'ом сервере посторонних сетевых игроков - игра сама решила засветить сервер и соединяется с ними.
А вы этой игре после такой х..ни настройки не ковырнули?

>А ведь это всё, повторюсь, только самые первые шаги. Массовым компьютерам как бытовым инструментам ещё меньше 20 лет. А что будет через 200? Через 2000?.
Компьютеры!=ИИ. Вы недооцениваете человека. Тот еще перестраховщик.