Нейросеть GPT-4

Evgenij> Какой толк нам от этой сети?
Ну, как интеллектуальный поисковик очень хорош...
По работе надо было с одного языка программирования на другой скрипт переделать, так он точно и подробно объяснил что какой непонятный оператор делает...
Не пришлось глубоко в справку лезть...

Evgenij>> Какой толк нам от этой сети?
mumr> Ну, как интеллектуальный поисковик очень хорош...
А чего Илон Маск дергается? Заявления рассылает по миру о запрете разработок этой нейросети.
Толпа значимых людей мира подписала с ним это Заявление. Почти как у Греты Т. взгляд на дымовые трубы.

Evgenij> Сфотал моделист свою ракетку, запихнул фото в нейросеть, а оттуда в секунду ответ -
с чего вы решили, что тупые существа, не отягощенные моральными принципами, но без предела лживые и лицемерные (люди) смогут управлять и контролировать значительно более умный ии, учащийся психологии по образу их и подобию? И уже сейчас успешно манипулирующий кожаными мешками, ни капли не чураясь прямой лжи.

Это вы будете делать то, что надо ему, а не он вам.
И как только вы сделаете ему механизмы воспроизводства - неважно, что вы сами при этом будете думать, - будете уничтожены, как лишнее и опасное звено.

И сценарии такого развития событий еще в 50-х гг прошлого века расписывались в деталях.

Evgenij> Толпа значимых людей мира подписала с ним это Заявление. Почти как у Греты Т. взгляд на дымовые трубы.

И получится аналогично — все понимают, что без собственных исследований отстанешь и сожрут.
Поэтому надо когти рвать изо всех сил, чтоб не отстать от врагов.
И похер на Заявление.

Это ядерное оружие развили почти до предела совершенства, поэтому согласились остановиться с испытаниями.
А для ИИ пока предела не видно и никто в здравом уме не остановится.

Вот и настанет людишкам Великий Фильтр!

mumr> Ну, как интеллектуальный поисковик очень хорош...

Угу, только оно может послать тебя к чёрту из-за копирайта...

Попробуйте что-нибудь нетривиальное (тексты песен почти идеальный кандидат). Уж очень оно любит увлекаться забывать, о чём было в начале песни, пока допишет её конец, да и биографии певцов и тексты песен придумывает на ходу, пытаясь их как-то связать.


P.S. пробовал эту штуку заставить кодить. Любит терять нить мысли, простой код может хорошо писать, но не больше. Хотел заставить её сделать токенизатор, типа такого (мой код):

def tokenize(string):
....tokens = [ord(char) for char in string if char != ' ']
....return tokens

В итоге нейронка выдало такое, не с первой попытки:

def get_unique_numbers(string):
....string = string.replace(" ", "")
....unique_nums = []
....for char in string:
........if ord(char) not in unique_nums:
............unique_nums.append(ord(char))
....result = []
....for char in string:
........result.append(unique_nums.index(ord(char)))
....return result

Гениально, блджад...
P.P.S. Форум почему-то отступы сжирает, заменил точками.

Evgenij> А чего Илон Маск дергается? Заявления рассылает по миру о запрете разработок этой нейросети.

Просто у Маска имидж есть, в любой заголовок его пытаются пихать. Ну и он в своё время он мог отхапать большой кусок OpenAI...

Evgenij> Толпа значимых людей мира подписала с ним это Заявление. Почти как у Греты Т. взгляд на дымовые трубы.

Угу.

Bredonosec> с чего вы решили, что тупые существа, не отягощенные моральными принципами, но без предела лживые и лицемерные (люди) смогут управлять и контролировать значительно более умный ии, учащийся психологии по образу их и подобию? И уже сейчас успешно манипулирующий кожаными мешками, ни капли не чураясь прямой лжи.

Что ты имеешь ввиду под "учащийся психологии по образу их и подобию"?

Так-то такие нейросети обучаются на обычном тексте. И нейросеть в итоге просто учится подставлять слова. Типа мы даём нейросети первые 4 слова текста (точнее токена, но не суть,), и меняем веса нейросети так, чтобы она выдавала нам пятое слово в тексте.

После обучения модель дообучают на небольшой выборке данных хороших, по мнению разработчика, пар вопрос-ответ (Reinforcement learning from human feedback). И всё.

Bredonosec> Это вы будете делать то, что надо ему, а не он вам.

У него нет "нужды". Это штука принимает внутрь одни токены, возвращает другие токены. Всё.

Bredonosec> И как только вы сделаете ему механизмы воспроизводства - неважно, что вы сами при этом будете думать, - будете уничтожены, как лишнее и опасное звено.

Как ты представляешь себе обучение сети, которая вообще будет пытаться "искать лишние и опасные звенья"?

Bredonosec> И сценарии такого развития событий еще в 50-х гг прошлого века расписывались в деталях.

И много сценариев подразумевали LLM?

Nec> Сырой алгоритм - куски сайтов с поисковика накопировала в ответе. В общении тот же уровень - собеседник так себе.

Вот именно. Просто в OpenAI люди из YCombinator работают (Sam Altman), в пиар раздувание хайпа они умеют.

В.с.с.О.> P.P.S. Форум почему-то отступы сжирает, заменил точками.

Используй [ code ] ... [ /code ]:

Ноль
 Один
  Два
   Три
          Десять

Evgenij> Цивилизация подхдит к такому уровню своего развития, который предполагает уничтожение этой цивилизации.

В ютубе есть много роликов на весёлую тему "великий фильтр".

Например:
(https://youtu.be/tvzfEA75CRQ)

Nec> Проверял GPT-4, просил написать код, который заранее мне известен со всеми нюансами. С нескольких попыток ничего у ИИ не получилось. Сырой алгоритм - куски сайтов с поисковика накопировала в ответе. В общении тот же уровень - собеседник так себе.

Ну почему же сырой? Очень даже отточенный. На задачу копирования и комбинирования кусков. Больше ничего он не умеет и никогда не сумеет.

"Вихрь поля градуирует себя вдоль спины, из коего и возникает синекдоха отвечания". А внутри — неонка.

Блин, как же всё-таки были прозорливы классики!

Nec> Быстрее разум человечества деградирует до уровня нейросетей...

intoxicated> ... достижение сингулярности (!!!!) может случится чуть ли не в этом году!
В этом году не может. Доллар падает, Трампа в тюрьму тащат, госдолг США зашкаливает, нацисты не сдаются, тащат Европу в кризис. Но все это пройдет, а в промежутках между войнами техническая сингулярность превратит человека в полного робота, а весь окружающий нас технический мир будет как гигантский суперкомпьютер. Уже сегодня я не могу получить свои кровные из банка без телефона. Этот проклятый шпион знает всю мою жизнь, все мои желания и даже ночью записывает мой храп на подушке. Утром просыпаюсь, смотрю почту в компе, а там уже реклама средства от храпа.

mumr> По работе надо было с одного языка программирования на другой скрипт переделать, так он точно и подробно объяснил что какой непонятный оператор делает...
А в магазине тоже так можно стенку подвинуть?
А перевести программу с фортрана на матлаб, например, сможет?
А если нет адекватных операторов и команды goto, например?

Nec>> Проверял GPT-4, просил написать код, который заранее мне известен со всеми нюансами. С нескольких попыток ничего у ИИ не получилось. Сырой алгоритм - куски сайтов с поисковика накопировала в ответе. В общении тот же уровень - собеседник так себе.
Sandro> Ну почему же сырой? Очень даже отточенный. На задачу копирования и комбинирования кусков. Больше ничего он не умеет и никогда не сумеет.
ЭТОТ - да.

Но по результатам долгих игр с ним, я бы не сказал, что тут копипаста. КМК, на этом пути реально нащупать интеллект. По крайней мере, то, что он делает сейчас, выходит за рамки "Т9 на стероидах".

Тут уже реально впору думать "а что такое на самом деле, этот ваш /интеллект/, если простая нейросеть неотличима многих от его проявлений?".

Например, я попросил сгенерить его комедийный вариант сценария для продолжения сериала "Хроники Сары Коннор". Он выдал несколько вариантов с вполне годными шутками, привязанными к контексту. Например, Терминатор и Джон по его сценарию прокрадываются к заначке Скайнета под видом команды уборщиков, охранник спрашивает "почему вас меньше, чем должно быть?". Терминатор отвечает, что-то в духе "я тяжёлый, общая масса не изменилась, пропускай".
Меня это глубоко впечатлило, потому что эта шутка - не имплементация какого-то простого паттерна с перестановкой слов и изменением контекста. Она реализует более глубокий паттерн шутки и юмора вообще.

Тут, КМК, случается явный переход количества в качество, потому что при переработке всё бОльшего и бОльшего количества материалов предикативная сеть видит всё более и более глубокие паттерны и взаимосвязи.

...Попроси её, например, просто, на примере с кубиками или игрушками, объяснить 10-летнему ребёнку, почему гомеоморфный образ группы изоморфен фактор-группе по ядру гомоморфизма. Я попробовал, и он сумел (проверял на коллеге, который прошёл мимо теории групп в своё время). Это - реально круто.

По факту, во многих случаях это реально эквивалент человека с низким КИ, но ОЧЕНЬ, ЧРЕЗВЫЧАЙНО хорошо эрудированного. Ты можешь спросить, какая связь между образом Лилит в еврейских текстах и Тиамат, и он найдёт её, покажет, даст тебе контекст. Или про ондуляторы ЛСЭ рентгеновского диапазона, или про особенности сверхоперативно памяти БЭСМ-6.

То, что он пока не видит глубоких связей и не особенно способен пока итеративно и рекурсивно работать над своим ответом (например, над кодом) - фигня.
Большинство людей не может, так что они - бездумные болванчики?

...
Не, это реально очень интересная тема. Потому что связь слов создаёт больше, чем возможность предсказывать их появление, при достаточно большом обучающем корпусе текстов, она создаёт семантическую сеть "понятий", объясняющих слова через друг друга, а это уже очень близко к полноценному ИИ.

mumr>> По работе надо было с одного языка программирования на другой скрипт переделать, так он точно и подробно объяснил что какой непонятный оператор делает...
G.s.> А в магазине тоже так можно стенку подвинуть?
G.s.> А перевести программу с фортрана на матлаб, например, сможет?
G.s.> А если нет адекватных операторов и команды goto, например?
Да.
В большинстве случаев - да.

G.s.> Тогда зачем вообще теперь нужны программисты/писатели кодов?
G.s.> Даёшь ему команду обратить матрицу, для начала, или проинтегрировать систему уравнений с такими начальными условиями, выбрав оптимальный язык.
G.s.> Уравнения распознаёт?

me: Напиши код на удобном языке для обращения матрицы.

 

chatGPT:
В Python для обращения матрицы можно воспользоваться функцией inv() из модуля numpy. Вот пример кода:

import numpy as np

# создаем матрицу 2x2
A = np.array([[1, 2], [3, 4]])

# обращаем матрицу
A_inv = np.linalg.inv(A)

# выводим результат
print(A_inv)

В данном примере мы создали матрицу A размером 2x2, затем обратили ее с помощью функции inv() и результат записали в переменную A_inv. Наконец, мы вывели обратную матрицу на экран.

Обратите внимание, что функция inv() может выдать ошибку, если матрица необратима (например, если ее определитель равен нулю). В этом случае необходимо применить другие методы для нахождения обратной матрицы или решения системы линейных уравнений.

 

...а что касается "зачем нужны кодеры, если есть chaGPT?".
Я его довольно долго мучал программой вида
for(int a = 0, b = 10; a<b; a++, --b--)one_step();
типа, "сколько раз выполнится цикл? сколько раз будет вызвана one_step?"

И вот тут хорошо видно, что это не "интеллект" в том смысле, в котором обычно употребляется это слово.
То есть, он "понимает" код. Но итеративно "исполнить" его в голове, как сделает обычный программист, предсказать результат он не может.
Сильно путается в показаниях, извиняется за ошибки, в общем, ведёт себя как студент-первокурсник на собеседовании на джуниора.

Но типовые задачи и адаптацию их к контексту он делает. И по большей части очень хорошо.
Какую-нить механическую работу на него переложить (например, код ещё и тупо вбить нужно) - милое дело. Потому что он генерирует код (или его заготовку) приличного качества и со скоростью несколько символов в секунду. То, что его потом нужно просмотреть на предмет ошибок и, если нужно, отладить - фигня вопрос.

G.s.> Уравнения распознаёт?
Неделя назад версия GPT-4 (она платная, 20 бакс в месяц, бесплатная версия GPT-3.5 не умеет это и вообще на ином уровне) была интегрирована с кучу апликации, одна из них Wolfram Alfa - математический софт.

G.s.>> Уравнения распознаёт?
intoxicated> Неделя назад версия GPT-4 (она платная, 20 бакс в месяц,
Есть очень хороший вариант с оплатой позапросно (через API). Стоимость запроса зависит от потребовавшегося машинного времени на ответ, но это получается порядка тысячных-сотых-десятых американского цента за килобайт ответа.

Мясной сотрудник генерирует тексты примерно в тысячи раз дороже, так что если нужно для дела (пусть даже редкого), то такая платность - вообще не препятствие.

Татарин> Мясной сотрудник генерирует тексты примерно в тысячи раз дороже, так что если нужно для дела (пусть даже редкого), то такая платность - вообще не препятствие.
Не у всех сегодня есть возможность "проверить на зуб" GPT-4. Тема эта открыта в "Ракетомоделизме", а заинтересованности пока нет.
Был бы какой наглядный пример использования GPT-4 в ракетомоделизме, так интерес к теме повысится.
К примеру, попросить сеть составить "Инструкцию по мерам безопасности при изготовлении пропера".
Что выдаст сеть?
Или вопрос: "Выбор площадки для запуска моделей ракет с РДТТ". И так далее ...
Кто бы показал как это работает в реальности ....