[image]

Искусственный Интеллект и социальные нормы

 
1 2 3 4 5 6 7
EE Татарин #14.11.2018 14:09  @16-й#14.11.2018 11:49
+
-
edit
 

Татарин

координатор
★★★★★
16-й> Все это, однако, можно засунуть и в функцию нейросетевого принятия решения. Ну, при желании. Ты думаешь, что этого не будет сделано практически? что это невозможно сделать в принципе? или что?
Да, я думаю, что это не будет сделано практически. В силу ОГРОМНОГО соблазна использовать преимущества искуственных инфосистем - глобальную тиражируемость решений.
Ну и по крайней мере пока (и на обозримую перспективу) "отладка", "дебаг" и исправление человеческих решений более дёшево и доступно, чем то же самое для нейросейтей.

Это будет только ухудшаться с ростом нейросетей, их функциональности и обучающих выборок. А до качественного перехода к моменту, когда нейросеть станет способной к рефлексии и самоанализу, мы, думаю, не доживём. По крайней мере, для себя я такой возможности не вижу.
   70.0.3538.7770.0.3538.77
RU Полл #14.11.2018 14:09  @Balancer#14.11.2018 14:02
+
-
edit
 

Полл

координатор
★★★★★
Balancer> Всё как и с людьми :) Только человеческий фактор
...является привычной проблемой. :)
   63.063.0
EE Татарин #14.11.2018 15:21  @16-й#14.11.2018 11:49
+
-
edit
 

Татарин

координатор
★★★★★
16-й> Все это, однако, можно засунуть и в функцию нейросетевого принятия решения. Ну, при желании. Ты думаешь, что этого не будет сделано практически? что это невозможно сделать в принципе? или что?
Думаю? Да я уверен. Слишком огромен соблазн использовать главное преимущество софта - глобальность применения однажды найденного решения. То есть, в нашем примере ты не просто будешь иметь дело с одной сеткой (или её копиями) на всю Землю, но ещё и будет у неё куча чисто американских (или китайских, к примеру) заморок.
   70.0.3538.7770.0.3538.77
RU Balancer #14.11.2018 15:51  @Полл#14.11.2018 14:09
+
-
edit
 

Balancer

администратор
★★★★★
Balancer>> Всё как и с людьми :) Только человеческий фактор
Полл> ...является привычной проблемой. :)

Ага. И мы знаем, что с ним делать и чего ожидать. По большей части :)
   55
LT Bredonosec #14.11.2018 17:01  @Полл#14.11.2018 13:26
+
-
edit
 
Bredonosec>> А я не об этом говорю. И татарин не об этом говорит.
Полл> А имеет значение в обсуждаемых масштабах только это.
нет не это.

Полл> Явное сходство в способе построения изображений, ИМХО, присутствует.
так мы уже вроде все согласились с определдением, что нейросеть - это машина построения предрассудков.
А будут они верны или нет - это как получится. И ты не имеешь никаких гарантий, что это не так. А даже узнав, ничего не изменишь. Например, потому что ты будешь в меньшинстве, а ради "такой мелочи ломать большую систему никто не станет".
   72.0.3590.4972.0.3590.49
IL digger #18.11.2018 11:49  @Татарин#13.11.2018 12:57
+
-
edit
 

digger

аксакал

Татарин> Например, что такое современный нам расизм? Это предубеждение против негров. Всех негров. Часто (далеко не всегда, но таки часто) основанное на вполне адекватной статистике и накопленному объективному и субъективному опыту.

Человек тоже не всегда копает вглубь, а обычно следует стереотипам. Проверять каждого негра досконально и не использовать профилинг при масовой проверке на что-нибудь - падение производительности в разы и множество ошибок.Человек лучше только в самых крайних случаях. Неправльное применение АИ - когда цена ошибки высока и есть время на ручную обработку данных. Например, если давать ипотеку на миллион долларов - предпочтительно потратить несколько часов работы клерка.
   70.0.3538.10270.0.3538.102
US Сергей-4030 #19.11.2018 06:05  @digger#18.11.2018 11:49
+
-
edit
 

Сергей-4030

исключающий третье
★★
digger>Неправльное применение АИ - когда цена ошибки высока и есть время на ручную обработку данных. Например, если давать ипотеку на миллион долларов - предпочтительно потратить несколько часов работы клерка.

И что? Какие именно клерк произведет действия, которые лучше оценят кандидата на ипотеку?
   70.0.3538.8070.0.3538.80
EE Татарин #24.11.2018 00:36  @Сергей-4030#19.11.2018 06:05
+
-
edit
 

Татарин

координатор
★★★★★
digger>>Неправльное применение АИ - когда цена ошибки высока и есть время на ручную обработку данных. Например, если давать ипотеку на миллион долларов - предпочтительно потратить несколько часов работы клерка.
Сергей-4030> И что? Какие именно клерк произведет действия, которые лучше оценят кандидата на ипотеку?
Позвонит на работу или деловым партнёрам, пробьёт по базам жену, детей и соцсвязи, например.
Миллион - приличные деньги, тут клерк может даже неформально подсуетиться.
   70.0.3538.10270.0.3538.102
RU Полл #24.11.2018 19:52  @Татарин#24.11.2018 00:36
+
-
edit
 

Полл

координатор
★★★★★
Татарин> Позвонит на работу или деловым партнёрам, пробьёт по базам жену, детей и соцсвязи, например.
То есть будет собирать информацию.
Что обсуждаемая нейросеть будет делать лучше. :)
   63.063.0
EE Татарин #25.11.2018 14:39  @Полл#24.11.2018 19:52
+
-
edit
 

Татарин

координатор
★★★★★
Татарин>> Позвонит на работу или деловым партнёрам, пробьёт по базам жену, детей и соцсвязи, например.
Полл> То есть будет собирать информацию.
Полл> Что обсуждаемая нейросеть будет делать лучше. :)
Не будет. Потому что для доступа к этим источникам нужна на многие порядки более мощная нейросеть - умеющая найти социальные контакты, позвонить, правильно построить разговор и выдержать тон в разговоре. Тут нужна не скорость и объёмы (где выигрывают компутерные нейросети), а тупо количество (настроенных) нейронов. Где человек пока непобедим. И будет непобедим следующие лет 20, как минимум.

Маленькая нейросеть хороша, когда у тебя уже есть подготовленный, желательно - хорошо формализованный, вектор ей на вход. А вот как только машинаи сама начинает искать и отбирать себе данные, требуемый объём нейросети начинает быстро расти... и в общем, всё в итоге упирается в необходимость нормального интеллекта с рефлексиями и самоосознанием и пока нереальным для нынешних компов количеством обученных нейронов.

Я не говорю, что это нереально в принципе или в среднесрочном (20-50 лет) будущем. Я говорю, что сейчас такого нет и сделать, скорее всего, нельзя. Нужна серьёзная адаптация железа под такой рывок. Не просто в виде вставляния MMAC в SIMD-команды традиционных ЦПУ, а именно серьёзная.
   70.0.3538.8070.0.3538.80
RU Полл #25.11.2018 17:52  @Татарин#25.11.2018 14:39
+
-1
-
edit
 

Полл

координатор
★★★★★
Татарин> Не будет. Потому что для доступа к этим источникам нужна на многие порядки более мощная нейросеть - умеющая найти социальные контакты, позвонить, правильно построить разговор и выдержать тон в разговоре.
Ты уверен, что нейросеть представимого сегодня уровня не сможет по случайно назначенному ей человеку прошерстить соцсети, базы данных медицинских и страховых компаний, оружие и транспортных средств, юрлиц - и составить базу данных всех контактов человека, а потом заняться поиском этих же контактов в тех же соцсетях и их опросом в чате?
А затем спуститься на один уровень ниже и пройтись по самым не банальным контактам человека так же.
   63.063.0
US Сергей-4030 #26.11.2018 00:49  @Татарин#25.11.2018 14:39
+
-
edit
 

Сергей-4030

исключающий третье
★★
Татарин>>> Позвонит на работу или деловым партнёрам, пробьёт по базам жену, детей и соцсвязи, например.
Полл>> То есть будет собирать информацию.
Полл>> Что обсуждаемая нейросеть будет делать лучше. :)
Татарин> Не будет. Потому что для доступа к этим источникам нужна на многие порядки более мощная нейросеть - умеющая найти социальные контакты, позвонить,

Совершенно необязательно для этого строить нейронную сеть. Вполне достаточно написанного человеком модуля, который соберет все контакты. А вот потом эти собранные контакты - в нейронную сеть.
   63.0.3239.11163.0.3239.111
Это сообщение редактировалось 26.11.2018 в 05:55
EE Татарин #01.12.2018 03:41  @Сергей-4030#26.11.2018 00:49
+
+2
-
edit
 

Татарин

координатор
★★★★★
Сергей-4030> Совершенно необязательно для этого строить нейронную сеть. Вполне достаточно написанного человеком модуля, который соберет все контакты. А вот потом эти собранные контакты - в нейронную сеть.
Да, необязательно.
Но написание человеком - это сразу все сопутствующие проблемы: стоимость разработки, баги, в критичных системах - ещё и параноидальная безопасность, которая чуть ли не удесятеряет стоимость разработки. И всё равно вмето клерков будут сидеть программисты, потому что то однасоциальная сеть формат чего-то поменяет, то другая появится, то третья резко вырастет в популярности.
И не факт ещё, что дорогостоящих программистов (с кучей манагеров на их горбу) будет меньше, чем просто клерков.
И просто клерки в системе останутся, потому что должен же кто-то отсматривать, что там насобирал модуль собирания и что там скормили нейросети. А ещё вопрос отвественности. А ещё, машину куда проще тупо обмануть, и нужно чтоб кто-то перепроверял на какие-нить совсем уж тупые наколки и эксплойты логических дыр.

Собссно, в куче проектов и получаются такие гибриды. После чего лица принимающие решения и думают - нет, нафиг такую кебенейматику, клерк и в разы дешевле, и надёжнее, да и голова у него всё равно больше.

Сейчас нейросети сильно ограничены.
Нужно это признать и учитывать при внедрении. Для некоторых вещей это тупо фальстарт.

...примерно как автоведение машин в 60-е (с катушками и магнитами под дорогой) или гостиницы на Луне с транспортом в виде "Шаттлов". Принципиально как бы можно, но нет "суммы технологий", чтобы это было уже экономически (да и хотя бы технически) осмысленно.
   70.0.3538.11070.0.3538.110
RU кщееш #09.12.2018 01:14
+
-
edit
 
Это видели ?

МОЖЕТ ЛИ МАШИНА МЫСЛИТЬ? – советская фантастическая притча
К/ф «Кто за стеной?» Режиссер/сценарий: Семен Райтбурт. В ролях: А. Грачев, И. Калиновская, Е. Лазарев, Ф. Иванов В. Власов, А. Котов. «Центрнаучфильм», СССР, 1977г.
   61.0.3163.12861.0.3163.128
EE Татарин #09.12.2018 01:59  @кщееш#09.12.2018 01:14
+
+1
-
edit
 

Татарин

координатор
★★★★★
кщееш> Это видели ?
Я нет... но очень наивно как-то. Гуманитарно, пупоцентрично.
   70.0.3538.11070.0.3538.110
RU кщееш #09.12.2018 04:42  @Татарин#09.12.2018 01:59
+
-
edit
 
кщееш>> Это видели ?
Татарин> Я нет... но очень наивно как-то. Гуманитарно, пупоцентрично.

но мило.
)))

в конце -концов все что мы знаем сейчас очень скоро явит нам свою наивность. А на том же периоде, возможно и большую.

Ps
Разве не так же наивно?

Как доказать одним словом, что ты человек, а не компьютер

По мере того как компьютеры становятся все умнее, способы провести грань между нами и разумными машинами становятся все изощреннее. Но есть как минимум одно волшебное слово... //  www.bbc.com
 
   70.0.3538.10270.0.3538.102
Это сообщение редактировалось 09.12.2018 в 19:19
RU Sandro #27.12.2018 18:57  @Татарин#25.11.2018 14:39
+
+1
-
edit
 

Sandro
AXT

инженер вольнодумец
★☆
Полл>> Что обсуждаемая нейросеть будет делать лучше. :)
Татарин> Не будет. Потому что для доступа к этим источникам нужна на многие порядки более мощная нейросеть - умеющая найти социальные контакты, позвонить, правильно построить разговор и выдержать тон в разговоре. Тут нужна не скорость и объёмы (где выигрывают компутерные нейросети), а тупо количество (настроенных) нейронов. Где человек пока непобедим. И будет непобедим следующие лет 20, как минимум.

У меня есть знакомый со специфической странностью: когда напьётся, начинает разговаривать с Алисой (яндексовым ботом, то есть), и пытается сбить её с толку. Поддерживая при этом вроде нормальный диалог. Удаётся почти сразу.
Тоже мне царство роботов, блин :)
   52.952.9
EE Татарин #28.12.2018 03:55  @Sandro#27.12.2018 18:57
+
+3
-
edit
 

Татарин

координатор
★★★★★
Sandro> У меня есть знакомый со специфической странностью: когда напьётся, начинает разговаривать с Алисой (яндексовым ботом, то есть), и пытается сбить её с толку. Поддерживая при этом вроде нормальный диалог. Удаётся почти сразу.
Sandro> Тоже мне царство роботов, блин :)
Алиса, как и Окейгугл, как и Сири, как и Биксби - суть очень примитивные боты.

Их задача - просто застолбить поляну до того момента, когда голосовой интерфейс для повседневного, бытового использования машин станет постоянным. Пока даже для поиска они используются нечасто, но лет через 10-15 это будет основной интерфес для быта (просто потому, что не требует подходить к машине, клавиатуре, экрану и т.п.).
Привычки людей сейчас довольно быстро меняются, растёт поколение, которое "родилось со смартфоном в руке". Этому поколению будет непонятно, зачем подходить к окну, термометру или компьютеру, чтобы узнать погоду - ведь можно просто спросить. Т.н. "умные колонки" сейчас в домах четверти американцев, и выполняют они именно эту функцию "голосового справочника" плюс интерфейса "умного дома".

Интеллекта там не требуется вообще. Никакого. Не, ну то есть, он очень желателен, он приколен, он фича-завлекатель, но он не требуется совсем.

Сейчас Яндекс (как и Гугл, только гугл вещь сам в себе) развивает т.н. "умения для Алисы". Открытый интерфейс, ты можешь заскриптовать какой-нить полезный диалог, чтобы выполнить какую-нить фичу... например, связанную с твоим сайтом и бизнесом. Понимаешь, куда замах?
К тому моменту, когда всё это (включая пользователей) созреет и раскрутится, эти товарищи уже будут иметь экосистему сервисов, построенную вокруг их ботов. Точно так же, как сейчас поиск начинается с гугла или яндекса, хотя поисковиков - хоть жопой ешь, и не все они хуже. Ты будешь проверять достирала ли твоя стиральная машинка через гугл (или яндекс) и, кстати, вопрос яндексу "где мои носки?" будет тоже не приколом, а повседневностью. Ты не будешь на морозе вытаскивать из кармана телефон и тыкать там в перчатке в экран, а скажешь яндексу про то, что ты хочешь такси сюда и сейчас, можно подороже, но побыстрее. Или в баре ты не будешь искать глазами официантку и махать ей, а просто сообщишь Алисе (или кому там), чтоб за твой столик организовали бы ещё кофе.

Это ОГРОМНЫЙ рынок. И потенциально огромные деньги.

Столбить его нужно сейчас. А трёп с ботом... ну, это лишь рекламная акция, скажем так.
   71.0.3578.9871.0.3578.98
RU 16-й #28.12.2018 09:53  @Татарин#28.12.2018 03:55
+
+2
-
edit
 

16-й

аксакал
★★
Татарин> Этому поколению будет непонятно, зачем подходить к окну, термометру или компьютеру, чтобы узнать погоду - ведь можно просто спросить.

Не перебор? А то подойти к окну куда удобнее чем с телефоном разговаривать.
Я конечно не сильно типичный потребитель гаджетов, ибо при своей профессии "информационщика" благами современных электронных фенек пользуюсь как могу меньше и с отвращением. Но удобство голосового управления не могу понять даже теоретически, учитывая, что в большинстве случаев это должно происходить на людях.

Татарин> Ты будешь проверять достирала ли твоя стиральная машинка через гугл (или яндекс) и, кстати, вопрос яндексу "где мои носки?" будет тоже не приколом, а повседневностью.

"Не дай бог так оголодать." В смысле деформироваться умом.
   67.0.3396.9967.0.3396.99
28.12.2018 14:49, Fakir: +1: Здравый смысл в эпоху повальной гаджетизации :D
16-й>Но удобство голосового управления не могу понять даже теоретически,
+1
Голосовых интерфейсов понять не могу, ни в ту ни в другую сторону. Неудобно и медленно.
Лично мне очевидно, что куда удобнее и лучше выводить ту же температуру и время в графическом виде, чтобы всегда перед глазами маячило.
А заказывать в баре куда удобнее и проще с графического меню, как сейчас в тех же приложениях фаст-фуда. Орать в баре: "Мне еще кофе" своему телефону - что может быть и выглядеть глупее и неудобнее?
   52.052.0
EE Татарин #28.12.2018 13:30  @16-й#28.12.2018 09:53
+
+2
-
edit
 

Татарин

координатор
★★★★★
16-й> Не перебор? А то подойти к окну куда удобнее чем с телефоном разговаривать.
Не перебор. Голос - единственный "штатный", от природы интерфейс ввода-вывода, который у тебя всегда с собой. Тебя ж не ломает в прихожей у жены спросить "как там на улице?" ну или крикнуть выкючить свет перед уходом?
Здесь будет то же самое.

Да, есть психологический момент: как и ты, и ниже Гоги заметил - это воспринимается как "подвижка умом". Но и пользоваться этим будете уже не вы, а то поколение, которым сейчас 10-20 лет. Оно все это воспринимает уже иначе.
   71.0.3578.9971.0.3578.99
RU 16-й #28.12.2018 13:59  @Татарин#28.12.2018 13:30
+
+1
-
edit
 

16-й

аксакал
★★
Татарин> Не перебор. Голос - единственный "штатный", от природы интерфейс ввода-вывода, который у тебя всегда с собой.

Не, ну постой - к голосу ж что-то еще должно прилагаться. Так-то у меня и пальцы с собой. И потом, крикнуть дома "выключи свет" это одно, а в клубе или на стадионе орать надсаживаясь "мне одно пиво на сорок восьмое место пятый ряд" уже другое.
   67.0.3396.9967.0.3396.99
EE Татарин #28.12.2018 14:00  @GOGI#28.12.2018 09:59
+
+2
-
edit
 

Татарин

координатор
★★★★★
16-й>>Но удобство голосового управления не могу понять даже теоретически,
GOGI> +1
GOGI> Голосовых интерфейсов понять не могу, ни в ту ни в другую сторону. Неудобно и медленно.
Неудобно и медленно, если требуется прокачка больших объёмов инфы. Тут фишка в том, что ты всегда готов к такому взаимодействию. На старт уходит 0 секунд.
А, скажем, для графического интерфейса это время будет порядка 20 секунд: нужно вытащить телефон, запустить приложение, и только тогда потыкать в нём. То же самое касается и всех других способов взаимодействия с машиной. Скажем, к клавиатуре ты должен сначала подойти. Кнопка вызова официанта - так ты должен сначала найти её глазами и подойти к ней или протянуть руку. Ну, а всяческие магические пассы руками, распознаваемые системой... тут всё то же самое, что с голосом, только в ухудшенном виде, да ещё и требует дополнительного обучения.
Тысячи мест сейчас, где машиной сложно управлять только потому, что требуются усилия для начала взаимодействия. Тысячи мест, где и передать-то нужно десяток-другой бит, но усилия для старта передачи такие большие, что передача теряет практический смысл.

GOGI> Лично мне очевидно, что куда удобнее и лучше выводить ту же температуру и время в графическом виде, чтобы всегда перед глазами маячило.
Сейчас же ты так не делаешь. :)

GOGI> А заказывать в баре куда удобнее и проще с графического меню, как сейчас в тех же приложениях фаст-фуда. Орать в баре: "Мне еще кофе" своему телефону - что может быть и выглядеть глупее и неудобнее?
А почему "орать"-то?
Он тебя будет всегда слушать. Через гарнитуру. При входе в кафе считает метку пространства и его контекст, скачает локально-зависимые диалоги и входные фразы и ты, промеж разговора, тихо и спокойно скажешь в воздух: официант, кофе пожалуйста, да, мне, один, со сливками, и можно сразу счёт.
Тот же Яндекс распознает, свяжется с сервером кафе (или сразу с ассоциированными в контексте с телефонами) и шепнёт на ухо официанту: пятый столик попросил кофе со сливками и счёт.

И таких сценариев микровзаимодействий бесчисленное множество, просто сейчас технология не дошла до того уровня, не набрала достаточно компонентов достаточного качества, чтобы это выглядело нормально. Ну, как эппловский наладонник "Ньютон" в конце 90-х: принципиально всё уже было как сейчас со смартфонами, но чуть не хватало удобства там, чуть тут, связи с внешним миром было мало и она была куда менее полезна и т.п.
Сейчас принципиально всё то же, но "сумма технологиум" позволяет делать больше вещей и с меньшим гемором. Результат - все (молодые) уткнулись в свои смартфоны.

Так и тут: нужны более продвинутые нейросети, нужна инфраструктура по взаимодействию с реальным миром, нужно улучшить гаджеты... Ты не спеши. Всё ещё будет.
   71.0.3578.9971.0.3578.99
Это сообщение редактировалось 28.12.2018 в 14:22
EE Татарин #28.12.2018 14:15  @16-й#28.12.2018 13:59
+
-
edit
 

Татарин

координатор
★★★★★
Татарин>> Не перебор. Голос - единственный "штатный", от природы интерфейс ввода-вывода, который у тебя всегда с собой.
16-й> Не, ну постой - к голосу ж что-то еще должно прилагаться. Так-то у меня и пальцы с собой. И потом, крикнуть дома "выключи свет" это одно, а в клубе или на стадионе орать надсаживаясь "мне одно пиво на сорок восьмое место пятый ряд" уже другое.
Да, именно должно. Примерно как интернет "сам по себе", без миллионов сайтов малополезен рядовому пользователю, голосовой интерфейс бесполезен без поддержки конечными приложениями и сценариями. И точно так же, как с интернетом долго нащупывали форматы, после появления хттп совершенствовали бравзеры и технологии, тут должен пройти тот же процесс. Вспомни (если помнишь :)) интернет года так 1995-го. Тут какая-то такая стадия.

Но с чего-то начинать нужно, нужно какое-то ядро, ключевое приложение. Для интернета это была почта. Для личных помощников - голосовой поиск и справки. Но потенциал у системы куда бОльший.

Поэтому поляну столбят сейчас, под будущий ИИ и его способы взаимодействия с миром. Под будущие вещи. Но столбят сейчас.


...
А люди тут прям к этому меиафорическому столбу докапываются. Мол, разговаривать это ваш бот не умеет. Ну да, не умеет... пока. Но ему и не особо надо-то, в таком вот прямо виде. До полноценного собеседника там как раком до Пекина, глупо даже думать, что разработчики этого не понимают или надеются покрыть эту дистанцию за ближайшие полвека. Они вообще в другую сторону смотрят и идут.
   71.0.3578.9971.0.3578.99
+
-
edit
 
GOGI> Орать в баре: "Мне еще кофе" своему телефону - что может быть и выглядеть глупее и неудобнее?
"видишь на улице человека, разговаривающего сам с собой и смеющегося без причины?
Или псих, или хендсфри.
©
   72.0.3590.6472.0.3590.64
1 2 3 4 5 6 7

в начало страницы | новое
 
Поиск
Настройки
Твиттер сайта
Статистика
Рейтинг@Mail.ru