Нейросеть GPT-4

Fakir> Когда - и если - сетка сумеет сделать действительно качественную выжимку из сложного осмысленного текста, осмысленную выжимку а не тупой студенческий реферат, где не пропущено действительно важное, и опущена вся вода - это будет действительно поводом напрячься. Даже не знаю, почему именно, но напрячься и присмотреться будет надо. В сущности это уже тест на мышление или что-то к нему близкое, а не имитацию.

Вот не факт. Можно ведь делать и "обратный процесс" - просто удалять однообразную воду и вступления. И тут достаточно будет простого рефлекса.

Татарин>> Мы же говорим не о конкретной системе, которая сидит в конкретной коробке, а о том, что весёлая, неугомонная и никем не контролируемая толпа человеков добралась до штуковин, работы которых не понимает и по принципу построения штуковин вообще не может предсказать и контролировать.
В.с.с.О.> И до каких же таких "штуковин, которые не понимает" добрались "никем неконтролируемые толпы (а с фига ли их вообще кто-то должен контролировать?) человеков"? До того, что можно сделать чатбота при достаточно большом кол-ве данных?
Да, в том числе.

Татарин>> В какой-то момент мы можем перейти черту, из-за которой нет возврата, и которая поделит всё на "до" и "после". Но уже не для людей.
В.с.с.О.> Шкайнет?
Да, это более чем реальный сценарий в следующие 30-40 лет.

Зависимость интеллекта и его возможностей от мощности и памяти вычсистемы (числа кортикальных нейронов) хорошо видна на приматах. Разница между шимпанзе и человеком в размере мозга маленькая (а "железо" мозга практически идентично), а разница в функционале принципиальна.

ИИ не нужно превосходить человека на порядки, достаточно и десятка процентов.
И не нужно превосходить человека во всём, достаточно конкретно в возможностях и эффективности анализа и планирования (в отличие от нашего мозга, который параллельно занят ещё кучей вещей - от регуляции секреции гормонов до обработки видеоданных, контроля мышц и прочего, что машине нафиг не надо и что занимает как бы не бОльшую часть наших ресурсов).

Татарин> Что-то ты настолько дико гонишь, что тут уже нужно посылать к учебникам. Память в рекуррентных сетках - это же азы, да ещё и полувековой давности. Это примерно как тебе кто-то начнёт втирать, что в процессорах операции умножения нет, и она невозможна.

То, что в рекуррентных сетях есть что-то, что называют "памятью" НЕ следует то, что эта память имеет хотя что-то общее с той самой памятью, которая у человека и других живых существ. Ну и у трансформеров действительно нет никакого внутреннего состояния, в отличии от рекуррентных сетей.

Татарин> Тут качественный переход.

Качественного перехода нет. Более того, во многом текущие LLM даже хуже STRIPS'а лохматых годов. Он ведь реально мог сохранять в памяти ранее использованные последовательности действий, и его эффективность реально росла, чем больше он работал.

Татарин> Тем, что машина может сформировать себе этот опасный и вредоносный непредсказуемый внутренний мотив или поставить себе задание непредсказуемым образом.

Угу, генератор текста и картинок, функция генерирования текста/картинок/whatever, подогнанная под генерацию того, что уже генерировали люди.


Татарин> Принципиально новая опасность появляется в тот момент, когда некая нейросеть получает качественное превосходство в глубине вычисляемых паттернов над человеком.

Каких, млять, паттернов? Нет, серьёзно, каких?

Татарин> Да, в том числе.

Пф, а разговоров-то было.

Татарин> Татарин>> В какой-то момент мы можем перейти черту, из-за которой нет возврата, и которая поделит всё на "до" и "после". Но уже не для людей.
В.с.с.О.>> Шкайнет?
Татарин> Да, это более чем реальный сценарий в следующие 30-40 лет.

Татарин> Зависимость интеллекта и его возможностей от мощности и памяти вычсистемы (числа кортикальных нейронов) хорошо видна на приматах. Разница между шимпанзе и человеком в размере мозга маленькая (а "железо" мозга практически идентично), а разница в функционале принципиальна.

Зависимость высоты полёта и мощности поршневого мотора видна на бипланах. Разница в конструкции между Wright Flyer и Grumman F3F маленькая (а "железо" двигателей практически идентично), а разница в функционале принципиальна.

Таким образом, бесконечно "вылизывая" и поршневой биплан мы можем достичь небывалых результатов, которые возможно подставят под риск вымирания всё человечество.

И да, мозг != компьютер.

Татарин> И не нужно превосходить человека во всём, достаточно конкретно в возможностях и эффективности анализа и планирования (в отличие от нашего мозга, который параллельно занят ещё кучей вещей - от регуляции секреции гормонов до обработки видеоданных, контроля мышц и прочего, что машине нафиг не надо и что занимает как бы не бОльшую часть наших ресурсов).

Не факт, что одно от другого отделяемо. Вообще не факт, что можно получить такую же адаптивность и универсальность, как у человеческого мозга, без всех его "недостатков".

Конечно, можно собрать условный планировщик для аэропортов, с куда большей эффективностью, чем у человека. Но вот ожидать от него какой-то высокой компетенции в "планировании и управлении вообще" необоснованно.

В.с.с.О.> Зависимость высоты полёта и мощности поршневого мотора видна на бипланах. Разница в конструкции между Wright Flyer и Grumman F3F маленькая (а "железо" двигателей практически идентично), а разница в функционале принципиальна.

У вас очень неподходящий пример, я уже задумался о картинке с фейспалмом не менее двух человек

fone> У вас очень неподходящий пример, я уже задумался о картинке с фейспалмом не менее двух человек

Разве не очевидно, что вся эта линия с самолётами - это сарказм?

В.с.с.О.> "Проблемой создания верифицированных баз знаний" занимаются ещё с 50-х.

Ну, в натаскивание ИИ я не занимался. А вот над базой знаний по заказу работал. Обрабатывали патенты США с поиском технических решений. Так вот, патентов было на тот момент 7 млн, а реальных решений с большим трудом наскребли 10 000. Фактически после 8 000 они практически кончились и доскубали уже всякую фигню с малейшей претензией на техническую новизну.

Вот и сравни - 7 млн единиц документов, а смысла - на 10 тыс. 1 из 700... И было это в 2003 году.
Примерно та же ситуёвина в научных публикациях (по химии по крайней мере). Тонны писанины, где изредка попадаются крупицы новинок. Докатились уже до того, что проще поставить опыт, чем попытаться найти его аналоги в литературе в библиотеке.

В.с.с.О.>> "Проблемой создания верифицированных баз знаний" занимаются ещё с 50-х.
Naib>....
Naib> Вот и сравни - 7 млн единиц документов, а смысла - на 10 тыс. 1 из 700... И было это в 2003 году.
Naib> Примерно та же ситуёвина в научных публикациях (по химии по крайней мере). Тонны писанины, где изредка попадаются крупицы новинок. Докатились уже до того, что проще поставить опыт, чем попытаться найти его аналоги в литературе в библиотеке.

Дык уже в начале 60, Лем писал в "Сумме":

....Эта проблема возникает также в связи с экспоненциальным ростом специальных библиотек, а всевозможные профилактические меры – публикация кратких рефератов, аннотаций, препринтов и т.п. – не могут обеспечить эффективную доставку информации компетентным лицам.
Ведь если постановка эксперимента, где-либо уже проведенного, оказывается делом более дешевым и быстрым, чем поиск нужной публикации, если, с другой стороны, ученый может предполагать, что интересующая его информация скрыта не в «недрах Природы», а на полках неведомых библиотек, то под сомнение ставится сам процесс исследования, ведь его результаты, погребенные под штабелями печатных изданий, не могут дойти до тех, кто в этих результатах нуждается более всего.

Иногда и сами заинтересованные лица не отдают себе отчета в губительности этого явления, поскольку им все же удается в общем следить за публикациями в области собственной науки.

Однако известно, что на открытия наиболее плодотворно влияет скрещивание информации из различных областей науки, и поэтому очень может быть, что уже сейчас в научных книгохранилищах всех континентов находится множество сведений, которые при простом сопоставлении друг с другом компетентным специалистом дали бы начало новым ценным обобщениям. Но именно это и затормаживается ростом специализации, внутренней постоянно растущей дифференциацией наук.

Профессия библиотекаря уже не может заменить подлинно первосортной специализированной компетенции, ибо ни один библиотекарь не в силах сказать, какие из результатов взаимно отдаленных наук должны быть в первую очередь направлены к соответствующим исследователям. Ученого библиографа и подавно нельзя заменить автоматизированным каталогом или каким-либо иным из доступных ныне автоматов, поскольку алгоритмические методы все еще обнаруживают свою беспомощность при сортировке «информационной лавины».

 

Naib> Так вот, патентов было на тот момент 7 млн, а реальных решений с большим трудом наскребли 10 000. Фактически после 8 000 они практически кончились и доскубали уже всякую фигню с малейшей претензией на техническую новизну.

Проблема даже не в том, что вы получили 8-10К решений, а в том, что другой человек нашёл бы 9,5К решений, из которых 1-1,5 тысячи решений были бы непохожими на твои.

Т.е. даже принципиально once and for all базы данных не сделаешь, особенно когда это касается "обычных" знаний, так называемого common sense knowledge.

Common Sense Knowledge Representation по сути был святым граалем ИИ, но вот какого-то универсализма там не добились... Даже после создания базы данных с кучей фактов.

Отсюда вообще растут ноги у мнения, что знания строятся не на основе фактов и логических операций над ними, а на основе чего-то другого. Неких Know-how ("знаний образа действия"), например.

Naib> Примерно та же ситуёвина в научных публикациях (по химии по крайней мере). Тонны писанины, где изредка попадаются крупицы новинок. Докатились уже до того, что проще поставить опыт, чем попытаться найти его аналоги в литературе в библиотеке.

Да...
Причём я видел кухню изнутри. Там то, что можно было бы сделать в рамках одной программы растягивают на годы ради финансирования.

В.с.с.О.> Зависимость высоты полёта и мощности поршневого мотора видна на бипланах. Разница в конструкции между Wright Flyer и Grumman F3F маленькая (а "железо" двигателей практически идентично), а разница в функционале принципиальна.
В.с.с.О.> Таким образом, бесконечно "вылизывая" и поршневой биплан мы можем достичь небывалых результатов, которые возможно подставят под риск вымирания всё человечество.
Ну, в случае с освоением космоса - почему "подставят"?

А ведь по сути именно так и было: космоса достигли именно "вылизывая самолёты" - через V-1 - и к звёздам. Сарказм пропал мимо, да и изначально был крив и кос.

В.с.с.О.> Не факт, что одно от другого отделяемо. Вообще не факт, что можно получить такую же адаптивность и универсальность, как у человеческого мозга, без всех его "недостатков".
Совершенно точно, что отделяемы нейроны, управляющие мышцами (коих - бОльшая часть мозга и есть). Чтобы управлять большим телом, нужно много нейронов. И это, конечно, задачи важные и сложные, но к триумфам математики или управлению обществом не имеет никакого отношения и не может иметь.

В.с.с.О.> Конечно, можно собрать условный планировщик для аэропортов, с куда большей эффективностью, чем у человека. Но вот ожидать от него какой-то высокой компетенции в "планировании и управлении вообще" необоснованно.
Это одна из причин, по которым меня раздражают разговоры об ИИ и я стараюсь обычно избегать их. Что такое "высокая компетенция"? да даже что такое "интеллект"? Понятия очень расплывчатые и в той части, в которой они вообще разделяемы между собеседниками, плотно завязаны на homo sapiens, как единственный образец и меру.
Давайте не будем о "компетенции" и "интеллекте"? Давайте назовём сепулением процесс вычисления общего в большом количестве данных (предоставленных как блоком, так и последовательно) и применение этого вычисленного общего в распознавании объектов и процессов, прогнозировании и планировании?
И далее будем говорить только об этом?

Если посмотреть непредвзято, то ВСЁ, что делает мозг - это вычисляет такие общности и применяет их для распознавания или генерации по ним новых данных. Ничего кроме. Только это. Так вот давай избавимся от слова "интеллект", раз уж оно тянет за собой столько лишних коннотаций и ненужного контекста и будем говорить только о сепулении? Потому что именно и только сепуление важно с практической точки зрения - именно тут все возможности и опасности.

Так вот для сепуления "высокая компетенция" - это просто сложность распознаваемых и применяемых рисунков в блоках и цепочках данных. Может ли машина распознать более сложные рисунки и цепочки в поведении сложных систем, чем человек? Да, и даже примеры есть. Может ли она применить распознанное и найденное для генерации новых блоков данных и их последовательностей? Да, примеры есть.
Собссно, и всё.

Почему важен чат-бот? Потому что с картинками (и распознаванием и генерацией) люди более-менее разобрались (а ещё лет опознание человека по старому фото 20 назад казалось абсолютной фантастикой, чем-то, требующим "настоящего" ИИ), с потоками тех же звуков разобрались, с примитивным управлением (аналогом спиного мозга человека и ганглиев у низших) - разобрались, очень сложные "рефлексы" научились формировать и использовать (см. те же автопилоты у машин или игру в го).
Ключевой элемент для следующего этапа радикально увеличивающего область применений - "понимания" и планирования сложных действий - обработка токенизированных (у человека - вербализованных) данных.

Токенизация видео и звуков (выделение объектов на картинке и сопоставление их токенам объектов, их свойств и обстоятельств) сейчас движется полным ходом, токенизация процессов (обучение машины выделению паттернов типа "идёт", "летит", "мигает", "зеленеет", связанных с временными рядами) сейчас движется полным ходом... и это необходимый этап сбора и вылизывания подобных систем для перехода к следующему - генерации цепочки действий, сложному планированию, поэтому "планирующие машины" и "настоящий интеллект"(тм) сейчас некоторым людям (не буду показывать пальцем на тебя ) кажутся дикой фентези.

Но это не фентези. Это вполне очевидный и неизбежный следующий шаг. И эти самые чат-боты показывают, насколько глубоки могут быть выделяемые в цепочках токенов паттерны и насколько круто их применение.

Сравнивать ЧатГПТ с чат-ботами прошлого... ну, это, примерно как сравнивать "автоведущийся" по рельсам трамвай с современным "нейро"-автопилотом автомашины. Глупо. При желании демонстрировать правдоподобное непонимание - можно. Но глупо.

В.с.с.О.> Common Sense Knowledge Representation по сути был святым граалем ИИ, но вот какого-то универсализма там не добились... Даже после создания базы данных с кучей фактов.
Потому что не было средств работы с семантическими сетями.

Собссно, чем возбуждают чат-боты? Тем, что они именно показывают, как из цепочек слов выцепляется довольно сложный рисунок "здравого смысла" для формирования других цепочек слов, соотвествующих "здравому смыслу".
"Здравый смысл" - тот самый паттерн, про который ты спрашивал "да какие паттерны?!".

Да, слова - всего лишь слова, эти токены не привязаны ни к видео, ни к действиям, это просто "перетряхивалка слов" из датасета обучения в некую новую затребованную пользователем форму. Но принцип выстроения этих токенов в текстах, этот самый "здравый смысл" чат-бот выцепил и применяет.

То же самое он сделает и с токенами действий, когда машину научат брать в качестве обучающих датасетов видео с действиями (в том числе, собственными действиями машины).

s.t.> Насколько локальными могут быть текстовые нейросети? Можно впихнуть достаточно адекватно отвечающий бот в изолированную машину?
Да запросто. Хоть у себя запускай, тут вопрос только скорости работы.

Татарин> Да запросто. Хоть у себя запускай, тут вопрос только скорости работы.
это к тому, что возможно ли впихнуть сие в игрушку, чтобы неписи были более общительными.

Татарин>> Да запросто. Хоть у себя запускай, тут вопрос только скорости работы.
s.t.> это к тому, что возможно ли впихнуть сие в игрушку, чтобы неписи были более общительными.
Можно, и наверняка это будет сделано... и скорее рано, чем поздно.

LLAMA доступна всем. Там просто потребуется работа по оптимизации и рост железа, всё-таки, эти модели даже в усечённом виде и даже при прямом прогоне достаточно тяжёлые (ну, чтобы это делать прям между делом вот так).

Татарин>> Да запросто. Хоть у себя запускай, тут вопрос только скорости работы.
s.t.> это к тому, что возможно ли впихнуть сие в игрушку, чтобы неписи были более общительными.

Тут в первую очередь синтезатор речи нужен, а не сетка. В том же Морровинде NPC могли общаться на кучу разных тем, а как в Обливионе и далее сделали тотальную озвучку речи, они все резко стали замкутыми на своих личных вопросах.
Хотя внедрение треплоботов в принципе вещь полезная, и изрядно оживила бы мир.

Татарин>>> Да запросто. Хоть у себя запускай, тут вопрос только скорости работы.
s.t.>> это к тому, что возможно ли впихнуть сие в игрушку, чтобы неписи были более общительными.
Sandro> Тут в первую очередь синтезатор речи нужен, а не сетка.
Сейчас это даже уже не вопрос ресурсов, а, внезапно, стоимости игры. Качественная голосовая модель денег стОит (а их много нужно, иначе одинаковая "манера речи" больше испортит, чем починит).
А бесплатные модели вообще будут скорее выбешивать, чем оживлять.

В общем, обычная ситуация с новой технологией: принципиально оно как бы и есть, и доступно, и даже вполне годно, и применимо, и пользу принесёт, но...
Как автомобиль в самом начале прошлого века.

...хотя, может, я и отстал уже: раз дипфейки голосовые делают, значит, "копирование" голоса актёра не вопрос. Просто говорилка нужна качественная. Точно, что сделать можно, а вот есть ли такие, готовые для встраивания в игровой движок?

Sandro> Тут в первую очередь синтезатор речи нужен, а не сетка.
нет, загвоздка в том, что неписи лишены свободного общения, обладают очень ограниченным набором повторяющийхся фраз. Нейросеть убирает этот факт. И болванчик может говорить не только в контексте выполнения задачи. Собственно речь как таковая вторична, важно что он говорит.

Sandro>> Тут в первую очередь синтезатор речи нужен, а не сетка.
s.t.> нет, загвоздка в том, что неписи лишены свободного общения, обладают очень ограниченным набором повторяющийхся фраз. Нейросеть убирает этот факт. И болванчик может говорить не только в контексте выполнения задачи. Собственно речь как таковая вторична, важно что он говорит.
Чтобы по-настоящему раскрыть это преимущество, нужен ввод свободной речи от игрока. Иначе всё равно счётное число реакций на счётное число вариантов входных действий проще сгенерить заранее (да пусть даже чат-ботом) и прописать в игре.
А если пойти на свободный ввод речи вместо выбора игроком заранее приготовленных для него создателями игры фраз, тут-то и начинаются "тонкости игрового момента" - значительное количество, если не большинство, игроков косноязычно, и нормально спросить игрового персонажа не смогут.
Не говоря уж о том, что многие часто просто не догадаются, что и как спросить - потому и выбор из 3-5 заранее сформулированных фраз и сценариев.

Кстати, смешно же: качество речи нейросетей в большинстве случаев не просто выше, а сильно выше, чем у среднего человека. Нейросети только начали, а уже с лёгкостью "делают" среднего человека в функционале, который считался чуть ли не самым "человеческим" - в разумной речи.

Татарин> Чтобы по-настоящему раскрыть это преимущество, нужен ввод свободной речи от игрока.
И какое отношение к этому имеет синтезатор? Текстовый ввод/вывод отлично работает в существующих моделях.
Татарин> значительное количество, если не большинство, игроков косноязычно, и нормально спросить игрового персонажа не смогут.
а GPT как понимает, или не понимает? Подозреваю, что таки понимает, учитывая особенности письменного английского.

Татарин>> Чтобы по-настоящему раскрыть это преимущество, нужен ввод свободной речи от игрока.
s.t.> И какое отношение к этому имеет синтезатор? Текстовый ввод/вывод отлично работает в существующих моделях.
Синтезатор - никакого, я про чат- бот. Чтобы свободно общаться с чат-ботом нужно свободно говорить, и знать, что говорить, а с этим у игроков проблемы...

Это примерно то же самое, что дать игрокам инерциальный сенсор в руку и дать свободно махать мечом в поединках в каком-нить Диабло. Это как бы круто, но большинство игроков просто не смогут, и уж точно не смогут победить "по-настоящему", люди играют для того, чтобы почувствовать себя великим мечником и лучником, а не для того, чтобы применить свои (отсутствующие) умения великого мечника и лучника.
(Нет, есть и такое, где реально люди машут дивайсом, но это совсем другой тип игр, и люди играют в это совсем другие)

То же самое и с речью: если дать возможность игроку спрашивать что-то произвольно, то фига с два он спросит правильно и спросит нужное. Поэтому количество реплик от игрока к персонажу ограничено, в основном поэтому. Сценарист должен провести игрока по игре, при всей иллюзии выбора, игрок должен пройти по сценарию (ну, в лучшем случае по сценариям, по разным его веткам). Иначе не получится та самая увлекательная и интересная история в сжатом темпе, насыщенная эмоциями, как задумано, игрок разочаруется в игре.
Ему просто станет непонятно, что делать и куда идти, а потом - просто скучно. У него такого квеста в жизни навалом. А игрок хочет (даже если не отдаёт себе отчёт), чтобы каждая его реплика била в цель, чтобы каждое решение имело смысл и к чему-то вело.

Татарин>> значительное количество, если не большинство, игроков косноязычно, и нормально спросить игрового персонажа не смогут.
s.t.> а GPT как понимает, или не понимает? Подозреваю, что таки понимает, учитывая особенности письменного английского.
GPT-то - поймёт... Вопрос, что поймёт... и что будет далее?

...
Не, я могу себе представить игру, построенную на персонажах с БЯМ, где сложные отношения, детектив, где суть игры - в разговорах, в выуживании информации, в манипуляции персонажами и т.п.
Наверное, это была бы крутая и интересная игра.
Но это была бы игра особого нового жанра.
Геймплей такие штуки меняют довольно радикально, это не просто "довесок" и "фишечка" (как, допустим, RTX-рендеринг), это вещь, которую должен учитывать творец мира, сценарист, дизайнеры, это штука влияющая на концепт, восприятие, на то, кому предназначена игра.

При этом, система должна включать в себя ещё и соотвествующие диалогам действия персонажа. Если персонаж ведёт живой диалог, заскриптованые действия не годятся, иначе рассинхронизация слов и действий будет слишком бросаться в глаза... а это замах на что-то близкое к сильному ИИ, чему-то, что сильнее и сильно шире по функционалу, чем БЯМ. Готового такого нет.

Татарин> Синтезатор - никакого, я про чат- бот. Чтобы свободно общаться с чат-ботом нужно свободно говорить, и знать, что говорить, а с этим у игроков проблемы...

А вот это вопрос сценариста. Мир должен оказывать на игрока давление, чтобы подталкивать его к определённым решениям. Я опять же сошлюсь на серию TES.

Татарин> Ему просто станет непонятно, что делать и куда идти, а потом - просто скучно. У него такого квеста в жизни навалом. А игрок хочет (даже если не отдаёт себе отчёт), чтобы каждая его реплика била в цель, чтобы каждое решение имело смысл и к чему-то вело.

Опять же Морровинд. Полная свобода в непонятном мире. Как только выпустили из таможни — можешь топать куда угодно. Единственная наводка на сюжет — это зашифрованное письмо к Косадесу.
И там дальше сложно и заморочно, поскольку ты по факту ведёшь следствие по делу о предстоящей гибели мира. И тебе надо превентивно всё выяснить и предотвратить.

И чего? Топовая вещь. И да, там можно спрашивать кого угодно на самые разные темы.