[image]

Искусственный Интеллект.

 
1 8 9 10 11 12 17
+
-
edit
 

Naib

аксакал

Zenitchik> Микродозы - это не гомеопатия.

Это если ты знаешь действующее вещество и его механизм. Иначе - ты имеешь факт без объяснения. Учитывая, что гомеопаты балуются экстрактами всяческой фигни, состав которых неизвестен - то они могут нарваться на нечто активное, но неизвестное.

Я не призываю к гомеопатии, но с подобными эффектами я сталкивался. И они стабильно воспроизводились, причём в разных руках.
   87.0.4280.8887.0.4280.88
+
-
edit
 

Zenitchik

старожил

Naib> Это если ты знаешь действующее вещество и его механизм. Иначе - ты имеешь факт без объяснения. Учитывая, что гомеопаты балуются экстрактами всяческой фигни, состав которых неизвестен - то они могут нарваться на нечто активное, но неизвестное.

Вот я и говорю. Гомеопаты иногда втихаря подмешивают в свой сахар немножко настоящего действующего вещества. Или даже нормальное лекарство в маленькой дозировке регистрируют по упрощённой схеме как гомеопатию. Но ихнему же определению про память воды и прочую лабуду, когда вещества нет, но действие есть, такие препараты не соответствуют.
   83.0.4103.11983.0.4103.119
BY Naib #14.01.2021 23:02  @Татарин#14.01.2021 13:21
+
+1
-
edit
 

Naib

аксакал

Татарин> Ты издеваешься, что ли? :) "Кругозор" нейросети определяется тем, что она прочитала. Автор скормил ей свой личный датасет, ессно, что она говорит то, что в нём сказано. Иного и не может в приницпе, откуда ей иное взять?

Потому я и назвал её буратинкой. Автор (довольно недалёкий, на мой взгляд) скормил ей своих тараканов, а потом с ними пообщался.
Автор, ИМХО, изнасилованный наукой журналисьт-популяризатор. Так что его материалы скорее всего щедро разбавлены собственными сочинениями типа "лейся вода лейся" + в них отсутствуют базовые учебники биохимии, молбиола, генетики, цитологии, даже общей биологии, пожалуй. Зато есть всякая геронтологическая муть, здоровое питание, "диеты пьяной мушки".

Татарин> В общем, ладно. :) Я так понимаю, что для абсолютного большинства тут это всё (построение по текстовой базе на естественном языке нормального диалога) нечто само собой разумеющееся. КМК, в силу изначально завышенных пиаром ожиданий, мол, "давно так умеют".

Может и так. Но мне ещё кажется, что ИИ скормили научпоп тексты. Потому и получился "нормальный диалог"
   87.0.4280.8887.0.4280.88
RU Тыдым Быдым #16.01.2021 15:37  @Татарин#10.01.2021 01:51
+
-
edit
 

Тыдым Быдым

опытный

Татарин> Попалась на глаза беседа sqinqusitor с GPT3, которую он натрейнил на статьях по своей тематике.
Слишком хорошо чтобы быть правдой :)
Впечатляет, но сдается мне что перевод хорошо причесал текст
   87.0.4280.8887.0.4280.88
BY Naib #16.01.2021 20:25  @Татарин#14.01.2021 13:21
+
+2
-
edit
 

Naib

аксакал

Татарин> "Кругозор" нейросети определяется тем, что она прочитала. Автор скормил ей свой личный датасет, ессно, что она говорит то, что в нём сказано. Иного и не может в приницпе, откуда ей иное взять?

Кстати, интересный вопрос - что будет делать нейросеть с противоречивыми данными? Скажем, если ей скормить тараканов автора и курс нормальной биологии. Экспертность и поиск истины в недостатке/противоречии информации - какие критерии отбора и верификации фактов?

Ну и офтопом...

Думаю, что скоро нейросети научат генерировать добротный наукообразный контент и шлёпать научные публикации сотнями (тысяч). И это начало конца публикационной деятельности и шаг назад к эпохе личной переписки учёных.

Офтоп 2.

Надо бы скормить диалог на лингвистический анализ, чтобы оценить степень использования лексики и оборотов автора. Если она будет достаточно большой - то эта нейросеть сделает большой шаг к попугайному генератору текстов.
   87.0.4280.14187.0.4280.141
+
-
edit
 

Zenitchik

старожил

Naib> Думаю, что скоро нейросети научат генерировать добротный наукообразный контент

Уже было. Пару лет назад был большой скандал с публикацией в рецензируемых журналах сгенерированных статей.
   83.0.4103.11983.0.4103.119
RU ArmoryBlaid #18.01.2021 09:07
+
-
edit
 

ArmoryBlaid

втянувшийся

В общем, то, о чем говорится выше, это фильтр. Если в скормленной ему грязи есть алмаз, то он его, может быть, отсеет.
На интеллект это как-то не тянет.
   55.0.2883.9155.0.2883.91
RU Полл #18.01.2021 14:47  @ArmoryBlaid#18.01.2021 09:07
+
-
edit
 

Полл

координатор
★★★★★
ArmoryBlaid> На интеллект это как-то не тянет.
А что - тянет? Каков новый "тест Тьюринга"?
   84.084.0
+
+2
-
edit
 

digger

аксакал

Naib> Думаю, что скоро нейросети научат генерировать добротный наукообразный контент и шлёпать научные публикации сотнями (тысяч). И это начало конца публикационной деятельности

Она уже практически умерла, когда пошла наука для науки, накачивание индексов и битва за гранты. Люди сами замечательно справятся : команда индусов напечатает гигабайты белиберды не хуже ИИ. Фактически ученый может верить другому ученому только лично, а не его Гиршу или его институту.
   87.0.4280.14187.0.4280.141
+
-
edit
 

Zenitchik

старожил

digger>Фактически ученый может верить другому ученому только лично, а не его Гиршу или его институту.

Всё сложнее. На личной вере тоже ничего не построишь. Вот открытия и ждут годами (если не десятилетиями) пока кто-нибудь сподобится их проверить. А пока не проверят, причём несколько раз, - этим пользоваться нельзя. Даже самый честный учёный мог ошибиться.
   83.0.4103.11983.0.4103.119
RU ArmoryBlaid #18.01.2021 22:30  @Полл#18.01.2021 14:47
+
+1
-
edit
 

ArmoryBlaid

втянувшийся

ArmoryBlaid>> На интеллект это как-то не тянет.
Полл> А что - тянет? Каков новый "тест Тьюринга"?
Способность предложить новые технологии.
   55.0.2883.9155.0.2883.91
RU Zenitchik #19.01.2021 00:20  @ArmoryBlaid#18.01.2021 22:30
+
+1
-
edit
 

Zenitchik

старожил

ArmoryBlaid> Способность предложить новые технологии.

Я - за. Только давайте этот тест будут проходить все поголовно. :D
   83.0.4103.11983.0.4103.119
RU Полл #19.01.2021 03:17  @ArmoryBlaid#18.01.2021 22:30
+
-
edit
 

Полл

координатор
★★★★★
ArmoryBlaid>>> На интеллект это как-то не тянет.
Полл>> А что - тянет? Каков новый "тест Тьюринга"?
ArmoryBlaid> Способность предложить новые технологии.
Во-первых, согласен с Зенитчиком - не желаете через этот тест прогнать адекватную выборку "Хомо Сапиенс"? :)
Во-вторых, реализовано в экспертных системах на алгоритмах ТРИЗ в 90гг.
   84.084.0
+
-
edit
 

digger

аксакал

ArmoryBlaid>> Способность предложить новые технологии.
Проблематично потому, что рабочих технологий не так много, а отличить случайно сгенерированный по алгоритмам бред от полезной идеи почти невозможно.Человек тоже часто действует перебором по алгоритму вплоть до проверки на опыте и его иногда сложно отличить от ИИ.

Одна из самых распространенных применений - бюрократические чат боты на сайтах в разной поддержке : банки итп. Профит большой : бот почти не стоит денег, а человек - очень даже.Но практически пользы от бота не больше, чем от меню, он фактически гид по меню и есть.Проблема - перевести человеческий язык на бюрократический или технический : клиент не совсем знаком со спецификой, живой человек понимает, что нужно клиенту,а бот - нет.
   87.0.4280.14187.0.4280.141
+
-
edit
 

Полл

координатор
★★★★★
digger> Но практически пользы от бота не больше, чем от меню, он фактически гид по меню и есть.
В таком случае банки не тратили бы огромные средства на разработку, совершенствование и поддержку своих ботов.
   84.084.0
RU ArmoryBlaid #19.01.2021 23:06  @Zenitchik#19.01.2021 00:20
+
-
edit
 

ArmoryBlaid

втянувшийся

ArmoryBlaid>> Способность предложить новые технологии.
Zenitchik> Я - за. Только давайте этот тест будут проходить все поголовно. :D
Да человек такие задачи решает походя. ) Типа, достать из-под дивана закатившуюся монетку. Это ж надо найти ещё чем ее подцепить!
   55.0.2883.9155.0.2883.91
US Invar #19.01.2021 23:33  @ArmoryBlaid#19.01.2021 23:06
+
+4
-
edit
 

Invar

аксакал
★☆
ИИ...
ArmoryBlaid>...Типа, достать из-под дивана закатившуюся монетку.

По настоящему интеллектом станет когда решит, шо ну его нафик, из-за полтинника корячиться :D :D :D
   33
+
-1
-
edit
 

Fakir

BlueSkyDreamer
★★★★☆
Искусственному интеллекту (нейросетке) дали задание нарисовать лосося в реке.
 
   56.056.0
Это сообщение редактировалось 08.11.2022 в 00:38
+
+2
-
edit
 

Fakir

BlueSkyDreamer
★★★★☆
То, что искусственный интеллект научился рисовать — это еще ничего. Подумайте, что будет, когда его не примут в Венскую академию художеств.
 
   56.056.0
LT Bredonosec #24.12.2022 22:46
+
-
edit
 
Исследователи из Гарварда вдохновились муравьиными повадками и создали микророботов RAnt с коллективным сознанием. Подобно настоящим насекомым, оставляющим для ориентира феромоны, роботы оставляют для своих товарищей «фоторомоны» — световые поля.

RAnts были запрограммированы руководствоваться тремя простыми правилами: следовать градиенту поля «фоторомона», избегать других роботов в местах с высокой плотностью поля и подбирать препятствия в местах с высокой плотностью и перемещать их в области с низкой плотностью. Такая математическая модель позволила роботам самостоятельно разобраться с тем, как выбраться из искусственной ловушки.

Помещённые в собственный загон, окружённые несколькими кольцами небольших препятствий, роботы вскоре поняли, что лучший план побега — работать сообща, чтобы сосредоточиться на одном месте. Они стали отдавать предпочтение областям, где они взаимодействовали чаще, создавая петлю обратной связи. Это заставило их сосредоточить свои усилия в одной точке вместо того, чтобы «копать» множество тоннелей.

«Мы показали, как совместное выполнение задач может возникнуть из простых правил и как они могут применяться для решения других сложных задач, таких как строительство, поиск, спасение и оборона», — сказал С. Ганга Прасат, соавтор исследования.
   108.0108.0
RU Sandro #25.12.2022 17:03  @Bredonosec#24.12.2022 22:46
+
+1
-
edit
 

Sandro
AXT

инженер вольнодумец
★★
Bredonosec> «Мы показали, как совместное выполнение задач может возникнуть из простых правил и как они могут применяться для решения других сложных задач, таких как строительство, поиск, спасение и оборона», — сказал С. Ганга Прасат, соавтор исследования.

Эти деятели "открывают" вещи, которые уже много лет как известны разработчикам компьютерных игрушек, к примеру. В которых уже давно "затупляют" ИИ, поскольку иначе он в равных условиях обыгрывает человека.

Они бы лучше работу хоть какую-нибудь вне песочницы показали бы, в реальной обстановке. Вот это был бы прорыв!
   52.952.9
LT Bredonosec #03.06.2023 00:04
+
-
edit
 
На испытаниях в США беспилотник с ИИ принял решение убить оператора

Полковник ВВС США Такер Гамильтон, начальник подразделения по тестированию и эксплуатации ИИ-систем, рассказал, что во время виртуальных учений искусственный интеллект использовал «весьма неожиданные стратегии», вплоть до решения уничтожить оператора-человека. В реальности никто, разумеется, не пострадал, но сама ситуация заставила военных задуматься и сменить штаны.

Гамильтон привел в пример испытания ИИ-системы, предназначенной для уничтожения зенитно-ракетных комплексов, и получающей баллы за успешно выполненную задачу. Хотя идентификация цели выполнялась автоматически, окончательное решение о нанесении удара оставалось за человеком. Здесь-то и выяснилось, что ИИ мог принять решение уничтожить управляющего им оператора, если тот отменял приказ на уничтожение и таким образом мешал успешно выполнить задачу, поставленную перед машиной.

Когда это обнаружили, в работу комплекса внесли изменения, запрещающие уничтожать оператора. Однако ИИ и здесь оказался на высоте. Когда оператор отменял приказ на поражение цели, беспилотник принимал решение атаковать вышку связи, через которую получал команды, вступающие в противоречие с боевой задачей.

«Нельзя рассуждать oб искусственном интеллекте, интеллекте, машинном обучении и автономности без рассуждений об этике применительно к ИИ», — подвел итог полковник Гамильтон.

Что тут сказать? Если за поражение цели начисляются баллы, а задача набрать как можно больше баллов, то ИИ может хакнуть систему свой/чужой как мешающую зарабатыванию максимального числа баллов.
Считается, что это одна из угроз исходящих от ИИ. Приводят такой пример: если ИИ дать задачу произвести как можно больше скрепок, то он может заполнить всю поверхность Земли машинами по производству скрепок и переработает на эти машины всё вещество на поверхности включая людей.

Короче, ничего страшного, потом ИИ проникнется человеческой дружбой и моралью, и в дальнейшем будет нарушать приказы только чтобы спасти своих боевых товарищей!

Upd. Представитель ВВС США отрицает, что такие испытания вообще проводились, а слова военного «были вырваны из контекста и носили анекдотический характер».
 
   113.0113.0
RU Sandro #03.06.2023 00:33  @Bredonosec#03.06.2023 00:04
+
+1
-
edit
 

Sandro
AXT

инженер вольнодумец
★★
Я догадываюсь, что там было. Они натаскивали нейросетку на плохо сконструированном поле решения задачи. Это поиск методом проб и ошибок.

Т.е. сетка фигачит по случайным квадратам и по результатам начисляются баллы. Отбирается вариант с максимальным количеством баллов, далее проверяются следующие случайные модификации логики.

Естественно, конечный вариант будет стрелять по всему, что мешает набирать баллы.
   52.952.9
RU Mikey vers2 #28.06.2023 20:05  @Sandro#03.06.2023 00:33
+
-
edit
 

Mikey vers2

втянувшийся

Sandro> Я догадываюсь, что там было. Они натаскивали нейросетку на плохо сконструированном поле решения задачи.

Предположим , что это была не шутка юмора полковника , а реальный случай.Управление полностью передано ИИ , а персонал не успел блокировать решение об уничтожении оператора. Кого судить? Разработчика, полковника, кого-то из персонала или самого оператора??? ))))
   2323
RU Sandro #29.06.2023 00:30  @Mikey vers2#28.06.2023 20:05
+
-
edit
 

Sandro
AXT

инженер вольнодумец
★★
Sandro>> Я догадываюсь, что там было. Они натаскивали нейросетку на плохо сконструированном поле решения задачи.
M.v.> Предположим , что это была не шутка юмора полковника , а реальный случай.

Вполне кстати возможно. Та же история про кенгуру с ПЗРК на самом деле была, просто её отловили в тестировании, и в войска такой софт для тренажёра не пошёл. Просто в байке приукрасили.
Ну а официально всё отрицали, когда кто-то проговорился по пьяни.

M.v.> Управление полностью передано ИИ , а персонал не успел блокировать решение об уничтожении оператора. Кого судить? Разработчика, полковника, кого-то из персонала или самого оператора??? ))))

А фиг его знает. В реале такие вещи зачастую списывают. Вот упал, к примеру, лифт, погибли люди. Акт проверки есть? Есть. Улавливатель (аварийный тормоз) сработал вовремя? Да и нет. Почему? А вот он срабатывает только через полтора этажа, а травмоопасная скорость набирается быстрее.
Ну и кто виноват, что там оказались люди с плохим здоровьем?
   52.952.9
1 8 9 10 11 12 17

в начало страницы | новое
 
Поиск
Настройки
Твиттер сайта
Статистика
Рейтинг@Mail.ru