Искусственный Интеллект и социальные нормы

 
RU кщееш #11.10.2018 09:24
+
-
edit
 
Сообщение было перенесено из темы Искусственный Интеллект..

Искусственный интеллект поставил крест на приложении от Amazon

Тестировавшийся Amazon алгоритм искусственного интеллекта для поиска сотрудников оказался сексистским: от предрасположенной к найму сотрудников-мужчин программы в итоге пришлось отказаться, сообщает Рейтер. //  www.bbc.com
 

Забавно
 61.0.3163.12861.0.3163.128
LT Bredonosec #11.10.2018 16:59  @кщееш#11.10.2018 09:24
+
+1
-
edit
 
кщееш> Забавно

" созданная система не придерживается принципа гендерной нейтральности"
.... поскольку принцип не имеет ничего общего с эффективностью ))

RU Balancer #11.10.2018 18:53  @кщееш#11.10.2018 09:24
+
-
edit
 

Balancer

администратор
★★★★★
кщееш> Забавно

Вынес в отдельную тему, потому как чем дальше, тем больше будет таких столкновений :)

Немного близкая тема ещё:

Интернет, компьютеры и гаджеты в социуме — качественно новое в нашей жизни

Периодически попадаются какие-то новости, демонстрирующие переход количественных изменений в нечто качественно новое. Так что заведу отдельную тему. Для затравки — научное открытие через фотохостинг: На фотохостинге Flickr обнаружен неизвестный науке вид насекомых Как-то раз калифорнийский энтомолог Шон Уинтертон наткнулся в интернете на необычные фотографии зеленой златоглазки — небольшого насекомого из отряда... // habrahabr.ru   // Компьютерный
 
 55
RU кщееш #11.10.2018 23:16  @Balancer#11.10.2018 18:53
+
+1
-
edit
 
кщееш>> Забавно
Balancer> Вынес в отдельную тему, потому как чем дальше, тем больше будет таких столкновений :)
Balancer> Немного близкая тема ещё:
Balancer> Интернет, компьютеры и гаджеты в социуме — качественно новое в нашей жизни

ЛГБТ сообщество тоже будет удивлено. И интеллект признают ненастоящим .
 61.0.3163.12861.0.3163.128
IL digger #12.10.2018 22:15  @кщееш#11.10.2018 09:24
+
-
edit
 

digger

аксакал

кщееш> Искусственный интеллект проявил сексизм и этим поставил крест на приложении для найма от Amazon - BBC News Русская служба
кщееш> Забавно

На самом деле - не только. Статья бибисей - несколько скандальная и несолидная, есть еще.Программа игнорировала профессиональные данные и реагировала на ключевые слова вроде "освоил" и "достиг".Это к тому, что machine learning в лоб путем скармливания как можно более мощной машине как можно большего количества данных - тупой по сути, хоть и по сути же демонстрирует правдоподобный результат.Амазон, внезапно - крупнейший поставщик инфраструктуры, вот они и оттянулись.
 52.052.0
RU кщееш #13.10.2018 00:52  @digger#12.10.2018 22:15
+
-
edit
 
кщееш>> Забавно
digger> На самом деле - не только. Статья бибисей - несколько скандальная и несолидная, есть еще.Программа игнорировала профессиональные данные и реагировала на ключевые слова вроде "освоил" и "достиг".Это к тому, что machine learning в лоб путем скармливания как можно более мощной машине как можно большего количества данных - тупой по сути, хоть и по сути же демонстрирует правдоподобный результат.Амазон, внезапно - крупнейший поставщик инфраструктуры, вот они и оттянулись.

да хз что там у них было под рукой.
вывод у машины был правильный.
у меня бывало из фактов только мелкие детали, а выводы оказались верными. Достраивать общую картину можно порой из минимум миниморум.
чем больше у машины будет данных тем более странными будут выводя для современного западного общества.

вангую)
 69.0.3497.10069.0.3497.100
LT Bredonosec #13.10.2018 11:59  @кщееш#13.10.2018 00:52
+
-
edit
 
кщееш> чем больше у машины будет данных тем более странными будут выводя для современного западного общества.
кщееш> вангую)
так скорректируют )))
Поставят коэффициенты значимости, где страшная черная лесбиянка с избытком веса будет получать больше баллов, чем выпускник МИТ при автоматизированном приеме на работу, просто по факту наличия данных признаков.
IL digger #15.10.2018 00:58  @кщееш#13.10.2018 00:52
+
+1
-
edit
 

digger

аксакал

кщееш> вывод у машины был правильный.
кщееш> у меня бывало из фактов только мелкие детали, а выводы оказались верными.

Не верными, а правдоподобными.Кто в шляпе и с усами, тот шпион, и не придерешься.
 52.052.0
EE Татарин #15.10.2018 01:09  @кщееш#13.10.2018 00:52
+
-
edit
 

Татарин

координатор
★★★★☆
кщееш> вывод у машины был правильный.
Ты этого не знаешь.

Это главная проблема глубокого обучения в сложных областях. Ты кормишь машину данными, она даёт тебе результат, и ты не знаешь, верен ли он. Можешь лишь сверять со своими ощущениями. Но даже если машина даёт что-то, что совпадает с твоими ощущениями, это нихрена не значит, что машина выдала что-то верное. :)
...А неубитые медведи делили чьи-то шкуры с шумом. Боюсь, мы поздно осознали, к чему всё это приведёт.  69.0.3497.10069.0.3497.100
EE Татарин #15.10.2018 01:10  @digger#15.10.2018 00:58
+
-
edit
 

Татарин

координатор
★★★★☆
кщееш>> вывод у машины был правильный.
кщееш>> у меня бывало из фактов только мелкие детали, а выводы оказались верными.
digger> Не верными, а правдоподобнымию.
Угу. :\
...А неубитые медведи делили чьи-то шкуры с шумом. Боюсь, мы поздно осознали, к чему всё это приведёт.  69.0.3497.10069.0.3497.100
RU кщееш #15.10.2018 01:49  @Татарин#15.10.2018 01:09
+
-
edit
 
кщееш>> вывод у машины был правильный.
Татарин> Ты этого не знаешь.
Татарин> Это главная проблема глубокого обучения в сложных областях. Ты кормишь машину данными, она даёт тебе результат, и ты не знаешь, верен ли он. Можешь лишь сверять со своими ощущениями. Но даже если машина даёт что-то, что совпадает с твоими ощущениями, это нихрена не значит, что машина выдала что-то верное. :)

ха
а как ты определяешь верность ответа на подобный вопрос в жизни?
вот ты мне задаешь такой же вопрос. я думаю пару минут и отвечаю также как ответила машина

И?
 69.0.3497.10069.0.3497.100
RU кщееш #15.10.2018 01:50  @digger#15.10.2018 00:58
+
-
edit
 
кщееш>> вывод у машины был правильный.
кщееш>> у меня бывало из фактов только мелкие детали, а выводы оказались верными.
digger> Не верными, а правдоподобными.Кто в шляпе и с усами, тот шпион, и не придерешься.

верность ответа на вопросы подобного типа определяет лишь время.
кто бы не ответил.
если это жизнь а не мультфильм.
 69.0.3497.10069.0.3497.100
EE Татарин #15.10.2018 02:18  @кщееш#15.10.2018 01:49
+
-
edit
 

Татарин

координатор
★★★★☆
кщееш> ха
кщееш> а как ты определяешь верность ответа на подобный вопрос в жизни?
кщееш> вот ты мне задаешь такой же вопрос. я думаю пару минут и отвечаю также как ответила машина
кщееш> И?
И я думаю про себя: ага, сталыть кщееш вот как считает, ладно, интересно.
А потом спрашиваю ещё пару человек.
И поступаю, ессно, по-своему. "Мы посовещались, и я решил."

Беда в том, что тебя бы вот вряд ли удивило, что какой-нить бизнесмен Ы Жбан Впень высказал бы нечто нетолерантное, за что был бы бит ЛГБТ-активисткой Джоном Сноу. Для тебя нормально думать, что люди могт не сойтись во взглядах на вопрос найма персонала, и совершенно ещё не факт, что Жбан Впень обязательно на 100% прав.
А вот на критику машинного мнения ты отреагировал. Причём так, как будто оспаривают объективное.

...
А с глубоким обучением у машины тоже есть своё мнение. И предрассудки. Основанные на обучающем датасете. И при некотором желании машину тоже можно та-ак научить... нетривиальным образом научить, что она будет бывших пионеровожатых где-то у себя в глубине своей машинной души вычислять и конкретно от них шарахаться. И ты никогда снаружи не поймёшь, почему в целом такого позитивного дядку записали как наихудшего кандидата.
И чем сложнее сеть и хуже её обучающий датасет, тем больше у неё странных фобий и комплексов. И это они ещё тупые, и личность создателя-учителя пока ещё мало проявляется... ну так будет хуже.

Понимать надо.
...А неубитые медведи делили чьи-то шкуры с шумом. Боюсь, мы поздно осознали, к чему всё это приведёт.  69.0.3497.10069.0.3497.100
RU кщееш #15.10.2018 02:38  @Татарин#15.10.2018 02:18
+
-
edit
 
Татарин> А вот на критику машинного мнения ты отреагировал. Причём так, как будто оспаривают объективное.

нет. я конкретно ржал над формулировками.

Татарин> ...
Татарин> А с глубоким обучением у машины тоже есть своё мнение. И предрассудки. Основанные на обучающем датасете. И при некотором желании машину тоже можно та-ак научить... нетривиальным образом научить, что она будет бывших пионеровожатых где-то у себя в глубине своей машинной души вычислять и конкретно от них шарахаться. И ты никогда снаружи не поймёшь, почему в целом такого позитивного дядку записали как наихудшего кандидата.

в таком важном вопросе я использую две формально одинаковые машины, ибо знаю такие фокусы.

Машины одинаковы. данные одинаковы а ответы разные.
от и думай.

Татарин> И чем сложнее сеть и хуже её обучающий датасет, тем больше у неё странных фобий и комплексов. И это они ещё тупые, и личность создателя-учителя пока ещё мало проявляется... ну так будет хуже.
Татарин> Понимать надо.

у меня вот на трех этажах эти лаборатории сидят, и все одно и то же одно и то ж. туману напустят а вопрос простой. брать баб на работу или нет при наличии выбора мужиков.

однакож каждый завлаб решит в пользу мужика.
)))
сексисты видать.

а разговоры ну везде одни и те же.
типа а хрен его знает как она определяет. Главное что верно

например лица
это просто проверяется. либо он либо не он

однакож как только вопрос типа вышеуказанного так ну его нафиг

хотя казалось бы.

ну берешь как можно больший список ученых а пишешь национальность. и задаешь расово неверный вопрос

и?


и выясниться что люди не одинаковы. Какая нетолерантная новость.

Однако они меж тем равны. И именно это было главный культурным открытием новой истории.
и закрытие этого факта будет означать эпоху многих бед.
 69.0.3497.10069.0.3497.100
LT Bredonosec #15.10.2018 21:01  @кщееш#15.10.2018 01:49
+
-
edit
 
кщееш> а как ты определяешь верность ответа на подобный вопрос в жизни?
кщееш> вот ты мне задаешь такой же вопрос. я думаю пару минут и отвечаю также как ответила машина
кщееш> И?
А как ты определяешь верность твоих раскладов по анализу ситуации? Ведь не совпадением по тем событиям, что уже произошли.
А по сбыче прогнозов.
Я с машинным обучением, увы, не связан, но в далеком начале нулевых использовал себе в дипломе программку от питерского ГУ. Ей надо было скармливать данные статистики, она рисовала вспомогательные кривые, и по ним можно было прикинуть разложение графика на компоненты с некими частотами, фазами, амплитудами. Даже с переменным периодом можно было.. И после выбора опорных частот прога рисовала, как должен получаться график в изучаемой области, и как в прогнозной.
Так вот, если выбрать неверными опорные компоненты, график в проверяемой части получался более-менее близким, а в прогнозной - каким угодно. Сейчас вон миллионы хомяков точно так же с форексом играются - тоже строят некие "закономерности" и "модели", которые могут идеально отражать ретроспективу, но далее, вперед, они в абсолютном большинстве случаев никак не совпадают с реальностью.

Вот в этом и разница между "правдоподобным" и "правильным". Второй тебе даст верные прогнозы, а первый - только на тестовом поле будет вроде бы правдоподобно отвечать.
EE Татарин #15.10.2018 21:24  @Bredonosec#15.10.2018 21:01
+
-
edit
 

Татарин

координатор
★★★★☆
Bredonosec> Вот в этом и разница между "правдоподобным" и "правильным". Второй тебе даст верные прогнозы, а первый - только на тестовом поле будет вроде бы правдоподобно отвечать.
Именно! Сейчас стало очень простым написание систем, которые надёжно предсказывают прошлое.

И часто тривиальная подобная поделка на общедоступной библиотеке и называется ИИ. :)

Что особенно плохо в этой ситуации? То, что пользователь не знает даже, какое именно прошлое предсказывает машина.
Ну, в смысле, каким именно был обучающий датасет и какую хрень по небрежению программиста в неё загнали... переобучение только кажется простой проблемой, на самом деле, это хитрые многоуровневые грабли.

Короче: нынешним машинам верить опасно. Если обучающая выборка неизвестна или мала - безумно.
"Только ЛСД, только на кишку и только с молитвой"©Пелевин
...А неубитые медведи делили чьи-то шкуры с шумом. Боюсь, мы поздно осознали, к чему всё это приведёт.  69.0.3497.10069.0.3497.100
EE Татарин #15.10.2018 21:30  @кщееш#15.10.2018 02:38
+
+1
-
edit
 

Татарин

координатор
★★★★☆
Татарин>> А вот на критику машинного мнения ты отреагировал. Причём так, как будто оспаривают объективное.
кщееш> нет. я конкретно ржал над формулировками.
А... это да. :)
Только ты того... рано смеёшься. :) У этой палки два конца... когда машины будут массово влиять на решения (или принимать их), их обязательно обучат премудростям толерантностей и текущих течений в политических модах. И вот это будет конкретно не смешно.

Я вот посмотрел на историю с Linux CoC, чуток экстраполяции на ИИ... и что-то стало тоскливо. Я, скорее всего, не успею умереть до того, как оно придёт за мной. И дети... детей жалко.
...А неубитые медведи делили чьи-то шкуры с шумом. Боюсь, мы поздно осознали, к чему всё это приведёт.  69.0.3497.10069.0.3497.100
Последние действия над темой

в начало страницы | новое
 
Поиск
Настройки
Твиттер сайта
Статистика
Рейтинг@Mail.ru