Нейросеть GPT-4

В.с.с.О.> Для фармацевтики я бы вообще другие принципы применял бы, типа поиска потенциальных химикатов в уже наличествующих химических базах данных. А то нагенерированные сеткой вещ-ва могут быть принципиально неполучаемыми на практике/сложнохранимыми и вообще неизученными.


Полагаю, у фармы все соображения уже давно готовы. Машинный поиск всех видов для веществ-кандидатов давным-давно применяется, и так и эдак, и с молекулярной механикой, и с квантовохимическим моделированием, и даже про целиком тестирование до упора в электронном виде (почти без выхода в пробирку и на мышей) пишут как о перспективе более 4 лёт как.

В.с.с.О.> Слышал, что некоторые сенсоры у человека чуть ли не напрямую подключены к актуаторам. Поэтому мы можем очень быстро отдёрнуть конечность, когда почувствовали что-то горячее.

Болевые таки работают через ЦНС. Единственный прямой рефлекс — это моргательный. Там в сетчатке есть детектор пятен, резко увеличивающихся в размерах, и от него нерв прямо на мышцы. Время срабатывания порядка 40мс — в 5 раз быстрее, чем для всего прочего.

Fakir> Но какое это имеет значение в контексте "удержать под контролем"?
Самое прямое.

Мы же говорим не о конкретной системе, которая сидит в конкретной коробке, а о том, что весёлая, неугомонная и никем не контролируемая толпа человеков добралась до штуковин, работы которых не понимает и по принципу построения штуковин вообще не может предсказать и контролировать.
То есть, главная проблема в том, что сейчас бородатый математик что-то такое придумает, потом сопливый энтузиаст чем-то таким простым дополнит, а потом в какой-то оборонной конторе дополнят. Или наоборот.
И этих червей обратно в банку не утолкать. Куда и как всё это будет присобачиваться - вот фиг знает, но насчёт тех же военных применений - будь уверен на 100%.

В какой-то момент мы можем перейти черту, из-за которой нет возврата, и которая поделит всё на "до" и "после". Но уже не для людей.

В.с.с.О.> А разница в том, что человек и машина работают на разных, так сказать уровнях. И из эффективности программы в узкой задачи игры в крестики-нолики не следует её применимость в других задачах или что с её помощью можно собрать "цифрового человека" или типа того.
Эээ... раньше так можно было бы сказать, потому что алгоритм игры в крестики-нолики придумывал и запихивал в машину человек.
Сейчас мы сделали машину, которая самостоятельно приобретает опыт, который будет использован в её дальнейшем функционировании. Мы только имеем некоторый контроль над выбором этого опыта, не более... но и то - интенсивно работаем над тем, чтобы этот контроль утратить, и дать машине возможность учиться полностью самостоятельно.

Здесь проходит черта.

Зацикливаться на алгоритме, который делает этот процесс возможным, столь же осмысленно, как утверждать, что раз разума нет в атоме углерода, то его не может быть и в человеке. Человек точно так же состоит из вполне просчитываемых элементарных процессов, как и большая нейросеть, но, как и нейросеть, количество этих процессов даёт новое качество.

В.с.с.О.> Здесь же принципиально система "угадай следующее слово для данного текста", и не более, зафайнтюненная под клишированные ответы клишированного же политкорректненького и гендерно-прогрессивного
Это вообще неважно. В смысле, то, на каких конкретных текстах натаскивали машину. Важно то, что она натаскивается.
Не так даже важно, что она играет именно в правильно угадывание слов. Точно так же она могла бы играть в правильное угадывание действий. Скайнет не обязательно должен "осознавать себя", уметь тонко чувствовать и писать стихи, ему вполне достаточно выцепить абстракции более глубокие, чем доступны человеку, и действовать по ним.

Это же реально глупо, тыкать пальцем - о! я вижу матрицу корреляции, вот эта цифирь, которая связывает "человека" и "пулемёт", это простое численное значение, оно насквозь понятно! Цифиря - конечно, понятна. Что в ней может быть непонятного?
Понятен ли тебе весь тензор связей в совокупности и результаты вычислений при всех входных данных? Нет.
Может ли быть так, что твоя наиболее вероятная реакция на выход машины в том тензоре прописана, равно как и оптимальная для машины реакция на тебя, а в твоей голове обратного нет? Да. Вот запросто.

Я не философ, мне пофигу, сколько ангелов могут поместиться на транзисторе, можно ли это высчисление назвать "мышлением" и т.п. демагогия. Называйте это не "мышлением ИИ", а "сепулением сепулькария" - пофиг. Конечный результат применения подобных систем может на выходе дать нечто абсолютно неуправляемое, для чего ты сам будет эффективным объектом управления.

Ещё и ещё раз: пофигу, что конкретная система умеет только ставить слова друг за другом.
Не пофигу то, насколько глубокие связи, зависимости, паттерны при этом применяются. Реально, масса примеров того, что глубина паттернов - уже сравнима с тем, чем может средний человек. Ну или пусть даже туповатый человек, это без разницы, по сути.

В.с.с.О.> АБСОЛЮТНЕЙШЕЕ ЛАМЕРСТВО. Я не знаю, насколько надо быть слепым, чтобы такое сказать. ИИ к реальным исследованиям работы мозга не имеет никакого отношения
Да пофигу на работу мозга. Неважно, как работает он, как работает машина, важна функциональная схожесть. Да, пока в одном конкретном аспекте. И? Фигли толку, если работы идут далее?

В.с.с.О.> Кстати напомню, что никаких "определений связей слов со словами" там нет, а есть выдача вектора распределения вероятностей между токенами из словаря. Вот кстати ещё один камень в огород "там всё прям как в мозге".
Это вот тот самый случай, когда "за деревьями не видит лес". Да, и что? Это понятно, но какая разница, как именно реализована система вычисления сложных связей и применения вычисленного?

В.с.с.О.> Ох уж это "а с чего вы взяли, что возникнет какое-то препятствие?"...
В.с.с.О.> Тупейший аргумент, который ИИ-оптимисты используют с 70-х.
А тупейший ли он? И не были ли правы "ИИ-оптимисты", когда говорили "нам просто нужно больше мощности"?

В.с.с.О.> У трансформеров есть ПРИНЦИПИАЛЬНОЕ и очень сильное ограничение размера контекста.
Ничуть (почему это вдруг матрица внимания - аттрибут именно трансформеров? и почему это трансформеры должны её иметь? Фича совершенно не связанная с принципом трансформеров).

Во-первых, я из первых рук знаю про систему, в которой это ограничение красиво обошли. И я уверен, что этот принцип достаточно красив, чтобы товарищи не были бы единственными, кто до этого додумался.
Во-вторых, даже квадратичная зависимость - вовсе не настолько уж сильная, как тебе кажется и вполне подчиняется чисто экстенсивному преодолению. Мощности, которые сейчас используются для эмуляции нейросетей дико неприспособлены для этого (даже т.н. нейропроцессоры - чуток допиленные под векторные операции и SIMD обычные процы). Вот даже на этом можно сразу взять увеличение удельной производительности в тысячи-милионы раз и на рубль, и на ватт. Это даже если вынести за скобки квантовые вычисления, которые понемногу выходят из лаб (тут многие операции радикально сокращаются; например, нахождение максимального значения элемента в тензоре - существенно ускоряемая КК операция).
В-третьих, что ты не можешь или не хочешь понять... скорость работы это на самом деле не так важно, как тебе кажется. Есть вопросы, которые, в силу из сложности и глубины, людям не под силу, потому что время на решение растёт экспотенциально от сложности. Если машина может преодолеть барьер сложности - не так и важно, что она работает вдвое дольше, чем человек.

В.с.с.О.> Кстати, у живых существ таких серьёзных ограничений нет, вот тебе и "нет пропастей в принципе работы с мозгом"... Эта штука гораздо ближе к "а давайте тупо перепробуем все возможные ходы".
У живых существ (человека конкретно) есть куда более серьёзные ограничения - см. популярные (или, если хочешь, не популярные, а научные, но они всё равно сейчас могут считаться популярными) работы того же Айзенка.
Собссно, ограничения для имеющегося вида непреодолимые.

Но вполне преодолимые для машины. Именно потому что она - неважно какой ценой - способна расширять свои память, матрицы корреляций, число одновременно рассматриваемых параметров и т.п.

Татарин> - поведение программы, играющей в крестики-нолики задано человеком (напрямую, через алгоритм) и является отражением его опыта;

Кмк, бесконечного опыта недостаточно, чтоб быть разумным-активным. Нужен наверное ещё модуль отвечающий за анализ/синтез/мотивацию..?

Татарин>> - поведение программы, играющей в крестики-нолики задано человеком (напрямую, через алгоритм) и является отражением его опыта;
parex12> Кмк, бесконечного опыта недостаточно, чтоб быть разумным-активным.
Конечно.

Ну вот мы (люди) и сделали штуку, которая способна накапливать опыт, выделять из него очень сложные зависимости, по этим зависимостям строить своё поведение, прогнозы, активные действия, выходные данные и т.п.

Собссно, что и делает человек, разве что имея встроенные целевые функции - выжить и эффективно размножиться.

Татарин> Собссно, что и делает человек, разве что имея встроенные целевые функции - выжить и эффективно размножиться.

А у псевдонейронной сети вообще целевой функции нет. Она просто генерит воображаемое наиболее вероятное продолжение ввода.
С предсказуемым систематическим впаданием в шизофазию. Напомню, основным признаком шизофазической речи является хорошая локальная согласованность — и одновременно полная бредовость в общем виде. Сто кирпичей.

По аналогии, это хорошо эрудированный шизофреник в терминальной фазе безумия.

Татарин>> Собссно, что и делает человек, разве что имея встроенные целевые функции - выжить и эффективно размножиться.
Sandro> А у псевдонейронной сети вообще целевой функции нет.
Есть, конечно. Её задаёт человек.
Если брать конкретно языковые модели, то для этого их и учат с учителем. Следующий шаг - непосредственное взаимодействие с реальностью через выполнение спланированных действий и получение обратной связи непосредственно от реальности. Собснно, в других областях так и делается, а сейчас - делается с языковыми моделями.
Ессно, потребуется написание конкурентных и вспомогательных сетей, но это вопрос времени, технически задача (для написания нейросетью кода) достаточно понятна и проста в "общем виде". А что не сможет проверить нейросетевой QA, уже проверит человек.

С железом - тоже не так сложно, как кажется: я тыкал в ЧатГПТ на предмет написания HDML, и он выдаёт на простых примерах вполне разумный результат. Немного настаскивания модели на общих примерах, моток синей изоленты, чтобы прикрутить вывод компилированой HDML в какую-нить ПЛМ, немного работы с железом... и да, она будет генерировать требуемое железо по описанию. Генерировать, закачивать в матрицу, проверять работу, делать выводы, генерировать... в общем, нормальный цикл обучения, почти независимый от человека.

Sandro> С предсказуемым систематическим впаданием в шизофазию.
Можно обучить и так.
Но зачем?

...
Ты смотришь на БЯМ как на генераторы текста, а это неправильно. Это просто отличный пример натаскивания сложных сетей на большие последовательности, на котором доказана верность и продуктивность некоторых идей и подходов (тех же трансформеров, той же выше помянутой матрицы внимания или частично стохастической функции активации).
Примерно как простые идеи разных свёрточных сетей, резидуал и чего-там-ещё совершили прорыв в распознавании образов. Неважно, что первые сверточные сети работали с примерами, достойными персептронов и показывали просто "результат получше" в распознавании простых рукописных символов. Это был прорыв, потому что было показано куда и как можно двигаться. Ровно те же подходы и немного более сложные сети - и вот у тебя работает идентификация твоей рожей, достаточного качества для проведения пока малых денежных операций. Ну или там выделение и сопровождение целей в сложных прицелах. Или распознавание паспортов, сканирование текста с фотографий, выцепление отпечатков пальцев или радужной оболочки глаза, поиск опухолей на снимках и т.п.

Тут то же самое, но применительно к семантическим сетям и любым токенизируемым данным (код, формальное описание цепочек действий, логических электронных схем, перевод, диалог, составление рефератов и выжимка из текстов на естественных языках и т.п.). При этом машина научилась составлять семантические сети из текстов на естественном языке, научилась "понимать" (или даже понимать) естественный текст, выдавая по описанию картинки или код. На примере БЯМ показана возможность очень глубокого "понимания" (или даже понимания) очень сложных и абстрактных концепций, и передачи этого понимания в машину просто корпусом текстов на естественном языке. Эмерджентные эффекты показывают, что так-то мы на правильном пути к интеллекту (или, для педантов, к чему-то неотличимому от него на массе практически важных задач).

Не приклеивайся к конкретному примеру чат-бота. Его функционал (тем более, конкретного) - это, по сути, фигня. То, что демонстратор концепции внезапно оказался практически очень полезен - просто приятная неожиданность, не более.

Invar> А вот "степень осмысленности" (например, сравнить показания двух приборов. Ох, не зря "будильники любят!) тормозит реакцию на порядки от этого времени

Осмысленность - в данном случае это нерефлекторное мышечное действие. То есть "запланированное и исполненное" исходя из обстоятельств.

В.с.с.О.> Мне эта штука заверяла, что перекись водорода можно в магазине купить в виде порошочка... Знания этой штуки в химии слабы.

Гидроперит, однако!
Но вообще - слабы, да. И поправить их почти без шансов.

В.с.с.О.> Для фармацевтики я бы вообще другие принципы применял бы, типа поиска потенциальных химикатов в уже наличествующих химических базах данных. А то нагенерированные сеткой вещ-ва могут быть принципиально неполучаемыми на практике/сложнохранимыми и вообще неизученными.

Хоспидя...
Была целая эпоха "г**новарства" - читай автоматизированного синтеза библиотек веществ под фарму. Насинтезировали как бы не миллионы. И что? А ничего...

Брутфорс не прошёл.

Naib> Была целая эпоха "г**новарства" - читай автоматизированного синтеза библиотек веществ под фарму. Насинтезировали как бы не миллионы. И что? А ничего...
Naib> Брутфорс не прошёл.

Вот именно. Давайте спросим сетку про то, почему хлороформ (и родственные вещества) избирательно отключает высшие функции ЦНС? Что она скажет? А ничего умного, поскольку механизм не выяснен.

Она может только воровать знания у людей. Но не создавать свои. В этом-то и дело.

Sandro>> А у псевдонейронной сети вообще целевой функции нет.
Татарин> Есть, конечно. Её задаёт человек.

Каким образом? Применительно к языковым моделям и вижу только одного кандидата на целевую функцию — добавление токенов в вывод на основании предыстории. Всё.

Татарин> А что не сможет проверить нейросетевой QA, уже проверит человек.

То есть, не может она сама всё, не?

Татарин> С железом - тоже не так сложно, как кажется: я тыкал в ЧатГПТ на предмет написания HDML, и он выдаёт на простых примерах вполне разумный результат.

HDML? Handheld Device Markup Language? Ты точно его имел в виду?

Татарин> Немного настаскивания модели на общих примерах, моток синей изоленты, чтобы прикрутить вывод компилированой HDML в какую-нить ПЛМ, немного работы с железом... и да, она будет генерировать требуемое железо по описанию. Генерировать, закачивать в матрицу, проверять работу, делать выводы, генерировать... в общем, нормальный цикл обучения, почти независимый от человека.

Sandro>> С предсказуемым систематическим впаданием в шизофазию.
Татарин> Можно обучить и так.
Татарин> Но зачем?

Потому, что так выходит всегда. Сетка — это шизофазик, который иногда выдаёт гениальные идеи. Но по большей части — гонит внешне связный словесный мусор. Ну или графический, вспомнить ту же Dall-E.

Татарин> Ты смотришь на БЯМ как на генераторы текста, а это неправильно.

А как мне на них смотреть? Это именно что генераторы текста. Осмысленность — это отдельный вопрос.

Татарин> Это был прорыв, потому что было показано куда и как можно двигаться.

Твой посыл я вроде понял, но мне представляется, что ты таки принимаешь эмерджентное поведение за интеллект.
С этим в своё время столкнулись разработчики компьютерных игр: оказывается, есть некоторый порог сложности, после которого агенты ИИ начинают совершать осмысленные поступки, на которые их никто не программировал. Они сами.
При этом, исследование показывает, что там ничего такого не случилось. Они по-прежнему роботы, подчиняющиеся программе. Можно пройтись по шагам и посмотреть, почему так вышло. Тем не менее, поведение получается неожиданным, но логичным. Как у роботов Азимова.

Собственно, даже более-менее понятно, как это создать. К примеру, тот же Скайрим, скоро 12 лет уже ему будет. Там электронные персонажи вполне себе демонстрируют последовательное и логичное поведение в открытом мире. Они разумны? Нет. Это просто цифровые куклы, не более того.

Татарин> Не приклеивайся к конкретному примеру чат-бота. Его функционал (тем более, конкретного) - это, по сути, фигня. То, что демонстратор концепции внезапно оказался практически очень полезен - просто приятная неожиданность, не более.

А я и не собираюсь.

Invar>> А вот "степень осмысленности" (например, сравнить показания двух приборов. Ох, не зря "будильники любят!) тормозит реакцию на порядки от этого времени
Naib> Осмысленность - в данном случае это нерефлекторное мышечное действие. То есть "запланированное и исполненное" исходя из обстоятельств.

Этим психолухи развлекались начиная с Платонова, (много раньше на самом деле).

Вывод один - человеки довольно дряной материал, даже отобранные и обученные.

Воспроизводимость результатов (особенно для сложных действий), правильность и скорость реакции сиииильно хромает.

И с селекцией тож не срослось как-то - подвела лженаука генетика педология

В.с.с.О.>> Мне эта штука заверяла, что перекись водорода можно в магазине купить в виде порошочка... Знания этой штуки в химии слабы.
Naib> Гидроперит, однако!

Первый вопрос не к калькулятору Isp:

[ЭТО]! вообще горит?

Про взрывается или сопливится/шлакуется уж не грим

Sandro>> Бот совершенно хакерскими трюками размечает карту, запоминает, что где и т.д.
В.с.с.О.> А где про него почитать/посмотреть?

Это сайт автора бота. Ну и собственно бот там же

(детально не смотрел, впрочем)

Sandro> Каким образом? Применительно к языковым моделям и вижу только одного кандидата на целевую функцию — добавление токенов в вывод на основании предыстории. Всё.
А разве это не то, что делает человек (которого мы считаем разумным за неимением других альтернатив с таким прилагательным)? Он берёт цепочку прошлых событий и составляет некую прогнозную цепочку (или цепочку действий) или цепочку действий, которые необходимо предпринять. Или одну цепочку на основе другой.
"Мир есть текст"© Толкиен, всё, должным образом предобработаное, - есть токены.
Если ты подумаешь, то даже невербализованная цепочка рассуждений человека - суть операция над цепочкой токенов-понятий.

"Распознавание" и есть токенизация видео-, звуковых, или там каких-то ещё образов. Сведение сложного непрерывного образа внешнего мира к счётному количеству известных объектов-токенов.
Мы имеем технологию сопоставляющую внешнему миру ряд токенов. Мы (уже давно) имеем технологию, "разворачивающую" токены в действия. У наших машин давно уже есть "зрение", "слух", "тело", не хватало "разума". Ну или разума.

Собссно, машина, которая работает над сложными цепочками токенов - и есть "мыслящая" (или мыслящая) машина.

Татарин>> А что не сможет проверить нейросетевой QA, уже проверит человек.
Sandro> То есть, не может она сама всё, не?
Первичная информация о том, что нужно, должна же откуда-то браться?
Её и даёт человек - через текст или через обратную связь на синтез при обучении.
Ты можешь дать эту информацию полностью в формальном описании, но этими путями (см. языки программирования, синтезируемое подмножество описания хардвары или i-коды для ЧПУ) мы уже ходили, нам не понравилось количество формализованной информации, которую нужно предоставить.
Мы хотим, чтобы машина больше справлялась на умолчаниях, больше брала из сторонних описаний, прошлого опыта и больше додумывала сама. Тут не обойтись без обратной связи.

Как ты учишь человека делать какую-то работу? Да ровно теми же путями.


Татарин>> С железом - тоже не так сложно, как кажется: я тыкал в ЧатГПТ на предмет написания HDML, и он выдаёт на простых примерах вполне разумный результат.
Sandro> HDML? Handheld Device Markup Language? Ты точно его имел в виду?
Конечно, нет. VHDL, конечно.

Sandro>>> С предсказуемым систематическим впаданием в шизофазию.
Ну, скажем так... с четвёркой я был приятно удивлён качеством ответов. И она ведь ещё не закончила обучение, процесс только начался.
Тут есть ещё такой момент: точность модели. Любители экономить уверяют, что с точностью весов в 4-5 бита та же LLAMA ещё сохраняет работоспособность и выдаёт ещё "годные" (кому-то ) результаты. Я бы это утверждение принял бы с большим сарказмом, потому как "кому и кобыла невеста"...
Но. Тут можно подумать и в другую сторону: а кто сказал, что нынешнее 32-битное представление, используемое на коммерческих серверах адекватно? Не даст ли переход на 256 бит в очень больших моделях (где связи и цепочки могут тянуться далеко сложным образом) новое качество? Не калечим ли мы сейчас разумность модели, искусственно ограничивая фазовое пространство грубой дискретизацией?

Пока это вопрос неведомый, НЯЗ, никто всерьёз не пробовал: считается, что "точность достаточна". А почему так считается? Мы уже видели переход количества в новое качество на примере ЧатГПТ-3.5.


Sandro> Потому, что так выходит всегда. Сетка — это шизофазик, который иногда выдаёт гениальные идеи. Но по большей части — гонит внешне связный словесный мусор.
Как и необученый человек. С детьми ты всяко же общался, верно?
Ты же не считаешь детей неразумными в принципе?

Sandro> А как мне на них смотреть? Это именно что генераторы текста. Осмысленность — это отдельный вопрос.
Татарин>> Это был прорыв, потому что было показано куда и как можно двигаться.
Sandro> Твой посыл я вроде понял, но мне представляется, что ты таки принимаешь эмерджентное поведение за интеллект.
Я не знаю, что такое интеллект.

И, честно говоря, мне это не очень интересно, я вижу это "философским" вопросом: ну, то есть, темой для позвездеть после пива.

Моя философия тут проста: если эмерджентные эффекты заменителя "интеллекта" функционально схожи с тем, что даёт "интеллект" до неотличимости, то с практической точки зрения заменитель интеллекта работает. "Настоящий" ли это интеллект - неважно.
Важно только то, насколько глубоко подобие и насколько велик функционал (ну или потенциал расширения функционала на данном этапе). Причём, ситуация сильно усугубляется тем, что для эффективного взаимодействия человека с миром нужен довольно ограниченный функционал.
Большое количество чисто человеческих фич не нужно чтобы водить машину, составлять этот текст, писать код или разрабатывать теорию суперструн.
Это всё действия, которые может делать машина точно так же, как машина научилась прилично играть в го.

Многие до появления развитых нейросетей говорили, что это принципиально невозможно: го очень "простая" игра с очень быстро растущим деревом вариантов (гораздо быстрее, чем в шахматах), которые очень нелинейно ведут к выигрышу или проигрышу. Шахматы "алгоритмизируются" за счёт хорошей применимости в них своего рода "пертурбационных моделей", где можно оценить грубо позицию и силу фигур, и прикинуть их изменение не досматривая дерево до конца. В го с этим гораздо сложнее. Но...

У меня не хватает воображения придумать конкретную причину, по которой машина может научиться играть в го или писать детские рассказы, но не может написать теорию электрослабого взаимодействия. Я вижу тут количественную, а не качественную разницу.
Я не понимаю, как и почему вы проводите между этими вещами черту.

Invar> [ЭТО]! вообще горит?

ИМХО - в принципе может. Особенно при внешнем источнике огня. Но мочевина вообще плохо горит. Склонна к самозатуханию и коксованию.

С него какой-то детский опыт был, типа таблетку гидроперита + таблетку анальгина и плюнуть на них. ЕМНИП - чего-то там шипело и газило.

Sandro> Вот именно. Давайте спросим сетку про то, почему хлороформ (и родственные вещества) избирательно отключает высшие функции ЦНС? Что она скажет? А ничего умного, поскольку механизм не выяснен.

Кхм... Там что-то нехитрое и неселективное типа растворимости в мембранах нервных клеток и изменения их проводимости. Ксенон так же работает. Да хоть бензин.

Sandro> Она может только воровать знания у людей. Но не создавать свои. В этом-то и дело.

Прикол в том, что воровать тоже не получается. На пробные вопросы сетка полезла в публикации бешеных арабов с индусами, а там такая дичь лженаучная была, что научить её химии на таком невозможно в принципе.

Sandro>> Она может только воровать знания у людей. Но не создавать свои. В этом-то и дело.
Naib> Прикол в том, что воровать тоже не получается. На пробные вопросы сетка полезла в публикации бешеных арабов с индусами, а там такая дичь лженаучная была, что научить её химии на таком невозможно в принципе.
Ты погоди-погоди ещё.

Просто эта штука на обучении верит всему абсолютно, как 3-летний ребёнок (а скорее - как младенец). Она не "умеет" иначе, её напрямую заливают данными.
Вот человек при обучении (уже с 7-11 лет) проверяет входные данные на соотвествие прошлым, строит какие-то свои модели, сравнивает, смотрит, что не сходится, выставляет веса доверия, пытается свести в новую обобщённую модель или даже откинуть новые данные вообще... Он так живёт, у него режим нейросети включается разве что при гипнозе :), и то ещё большой вопрос.

БЯМ сейчас в этом смысле примитивны: есть режим обучения, в нём формируются связи между токенами, и есть режим работы - в нём токены выставляются в верном порядке. На данном этапе хорошо бы просто обучить её на 100% доверенных данных, кое-как вышло, и уже практически значимые результаты есть.

Собссно, "критическое мышление" и дообучение в процессе работы - следующий этап. Он будет, ессно. Просто тут требуется другой, более сложный код и, боюсь, куда бОльший размер моделей. Потому что глубина паттернов с включением концепции лжи растёт очень быстро.

Татарин> Собссно, "критическое мышление" и дообучение в процессе работы - следующий этап. Он будет, ессно. Просто тут требуется другой, более сложный код и, боюсь, куда бОльший размер моделей. Потому что глубина паттернов с включением концепции лжи растёт очень быстро.

Критическое осмысление как минимум поразумевает рекурсивность. То есть повторное введение в логическую систему всех же своих собстыенных предыдущих заявлений. Ну и как нормально её реализовать в сетке? А никак, поэтому вводят не совсем явное состояние, реализующееся через внешние механизмы, хоть очередь токенов. У самой-то сетки состояния нет, это же просто математическая функция по сути. D => E.

Ну или вводят его ещё более неявно, как в Лиспе, Прологе, или богомерзком Хаскелле. Через монадоподобные конструкции, где как бы предыстории нет, но внутри она есть. Но снаружи-то её якобы нет!

Про паттерны — это очень верное замечание. Собственно, сетка — это конструкция, которая умеет распозавать паттерны, выдавать запрограммированный вывод и правдоподобно его интерполировать при неточном совпадении.

Паттернов похожих нет — всё, труба, сетка ничего не может. Мышления же нет. Это уровень лягушки, грубо говоря. Очень хорошо эрудированной лягушки.

PS: Ну я ещё много чего могу сказать. И попробую. Но не сейчас. Спать пора и вообще нефиг всё валить в одну кучу.

Invar>> [ЭТО]! вообще горит?
Naib> ИМХО - в принципе может...

И это самая страшная тайна ИИ. Авторитетно выглядящая чушь

На текущий момент ни напалма, ни ракеты по его советам

Invar> И это самая страшная тайна ИИ. Авторитетно выглядящая чушь
Invar> На текущий момент ни напалма, ни ракеты по его советам

Ну, напалм и ракету к нему я тебе и так насоветовать могу. Но может не нать?