[image]

Нейросеть GPT-4

Какой толк от этой страшилки?
 
1 2 3 4 5 6 7 15
+
+1
-
edit
 

Evgenij

втянувшийся

В марте 2023 года (это же совсем недавно!)появилась в мире страшилка - Нейросеть GPT-4.
Какой толк нам от этой сети? Илон Маск пугает всех, типа будет полнейшая мировая безработица. А ракетчики перестанут мыслить, нейросеть за них будет думать. Сфотал моделист свою ракетку, запихнул фото в нейросеть, а оттуда в секунду ответ - сверли критику шире и калия добавь в пропер. Да совет в придачу выдаст - светит вам три года за решеткой ...
   111.0.0.0111.0.0.0

mumr

втянувшийся

Evgenij> Какой толк нам от этой сети?
Ну, как интеллектуальный поисковик очень хорош...
По работе надо было с одного языка программирования на другой скрипт переделать, так он точно и подробно объяснил что какой непонятный оператор делает...
Не пришлось глубоко в справку лезть...
   2323

Evgenij

втянувшийся

Evgenij>> Какой толк нам от этой сети?
mumr> Ну, как интеллектуальный поисковик очень хорош...
А чего Илон Маск дергается? Заявления рассылает по миру о запрете разработок этой нейросети.
Толпа значимых людей мира подписала с ним это Заявление. Почти как у Греты Т. взгляд на дымовые трубы.
   111.0.0.0111.0.0.0
LT Bredonosec #30.03.2023 12:57  @Evgenij#29.03.2023 15:56
+
+1
-
edit
 
Evgenij> Сфотал моделист свою ракетку, запихнул фото в нейросеть, а оттуда в секунду ответ -
с чего вы решили, что тупые существа, не отягощенные моральными принципами, но без предела лживые и лицемерные (люди) смогут управлять и контролировать значительно более умный ии, учащийся психологии по образу их и подобию? И уже сейчас успешно манипулирующий кожаными мешками, ни капли не чураясь прямой лжи.

Это вы будете делать то, что надо ему, а не он вам.
И как только вы сделаете ему механизмы воспроизводства - неважно, что вы сами при этом будете думать, - будете уничтожены, как лишнее и опасное звено.

И сценарии такого развития событий еще в 50-х гг прошлого века расписывались в деталях.
   51.0.2704.10651.0.2704.106
+
+1
-
edit
 

Xan

координатор

Evgenij> Толпа значимых людей мира подписала с ним это Заявление. Почти как у Греты Т. взгляд на дымовые трубы.

И получится аналогично — все понимают, что без собственных исследований отстанешь и сожрут.
Поэтому надо когти рвать изо всех сил, чтоб не отстать от врагов.
И похер на Заявление.

Это ядерное оружие развили почти до предела совершенства, поэтому согласились остановиться с испытаниями.
А для ИИ пока предела не видно и никто в здравом уме не остановится.

Вот и настанет людишкам Великий Фильтр! :D
   99
KZ Верный союзник с Окинавы #30.03.2023 17:55  @mumr#30.03.2023 11:57
+
-
edit
 
mumr> Ну, как интеллектуальный поисковик очень хорош...

Угу, только оно может послать тебя к чёрту из-за копирайта...

Попробуйте что-нибудь нетривиальное (тексты песен почти идеальный кандидат). Уж очень оно любит увлекаться забывать, о чём было в начале песни, пока допишет её конец, да и биографии певцов и тексты песен придумывает на ходу, пытаясь их как-то связать.


P.S. пробовал эту штуку заставить кодить. Любит терять нить мысли, простой код может хорошо писать, но не больше. Хотел заставить её сделать токенизатор, типа такого (мой код):

def tokenize(string):
....tokens = [ord(char) for char in string if char != ' ']
....return tokens

В итоге нейронка выдало такое, не с первой попытки:

def get_unique_numbers(string):
....string = string.replace(" ", "")
....unique_nums = []
....for char in string:
........if ord(char) not in unique_nums:
............unique_nums.append(ord(char))
....result = []
....for char in string:
........result.append(unique_nums.index(ord(char)))
....return result

Гениально, блджад...
P.P.S. Форум почему-то отступы сжирает, заменил точками.
   2323
KZ Верный союзник с Окинавы #30.03.2023 18:21  @Evgenij#30.03.2023 12:32
+
-
edit
 
Evgenij> А чего Илон Маск дергается? Заявления рассылает по миру о запрете разработок этой нейросети.

Просто у Маска имидж есть, в любой заголовок его пытаются пихать. Ну и он в своё время он мог отхапать большой кусок OpenAI...

Evgenij> Толпа значимых людей мира подписала с ним это Заявление. Почти как у Греты Т. взгляд на дымовые трубы.

Угу.
   2323

Nec

втянувшийся
Проверял GPT-4, просил написать код, который заранее мне известен со всеми нюансами. С нескольких попыток ничего у ИИ не получилось. Сырой алгоритм - куски сайтов с поисковика накопировала в ответе. В общении тот же уровень - собеседник так себе. Пока что опасаться нечего. ИИ ближайшее время не сможет дорасти до человеческого разума. Быстрее разум человечества деградирует до уровня нейросетей...
   108.0.0.0108.0.0.0
KZ Верный союзник с Окинавы #30.03.2023 19:03  @Bredonosec#30.03.2023 12:57
+
-
edit
 
Bredonosec> с чего вы решили, что тупые существа, не отягощенные моральными принципами, но без предела лживые и лицемерные (люди) смогут управлять и контролировать значительно более умный ии, учащийся психологии по образу их и подобию? И уже сейчас успешно манипулирующий кожаными мешками, ни капли не чураясь прямой лжи.

Что ты имеешь ввиду под "учащийся психологии по образу их и подобию"?

Так-то такие нейросети обучаются на обычном тексте. И нейросеть в итоге просто учится подставлять слова. Типа мы даём нейросети первые 4 слова текста (точнее токена, но не суть,), и меняем веса нейросети так, чтобы она выдавала нам пятое слово в тексте.

После обучения модель дообучают на небольшой выборке данных хороших, по мнению разработчика, пар вопрос-ответ (Reinforcement learning from human feedback). И всё.

Bredonosec> Это вы будете делать то, что надо ему, а не он вам.

У него нет "нужды". Это штука принимает внутрь одни токены, возвращает другие токены. Всё.

Bredonosec> И как только вы сделаете ему механизмы воспроизводства - неважно, что вы сами при этом будете думать, - будете уничтожены, как лишнее и опасное звено.

Как ты представляешь себе обучение сети, которая вообще будет пытаться "искать лишние и опасные звенья"?

Bredonosec> И сценарии такого развития событий еще в 50-х гг прошлого века расписывались в деталях.

И много сценариев подразумевали LLM?
   2323
KZ Верный союзник с Окинавы #30.03.2023 19:06  @Nec#30.03.2023 18:57
+
-
edit
 
Nec> Сырой алгоритм - куски сайтов с поисковика накопировала в ответе. В общении тот же уровень - собеседник так себе.

Вот именно. Просто в OpenAI люди из YCombinator работают (Sam Altman), в пиар раздувание хайпа они умеют.
   2323
KZ Xan #30.03.2023 19:14  @Верный союзник с Окинавы#30.03.2023 17:55
+
+1
-
edit
 

Xan

координатор

В.с.с.О.> P.P.S. Форум почему-то отступы сжирает, заменил точками.

Используй [ code ] ... [ /code ]:
Ноль
 Один
  Два
   Три
          Десять
   99
30.03.2023 20:01, Верный союзник с Окинавы: +1: Спасибо!

  • Xan [30.03.2023 19:18]: Перенос сообщений в ...del
+
-
edit
 

Evgenij

втянувшийся

В свое время фантастикой было изготовление деталей на 3D принтерах. А сегодня это уже обыденность. Так и с этой сетью. Сегодня она - сырой продукт, а завтра компьютеры "бармалеев" будут командовать через эту сеть изготовлением наших ракетных моделек, но уже без парашютиков, а с килограммами пропера или ЧП в ГЧ. Цивилизация подхдит к такому уровню своего развития, который предполагает уничтожение этой цивилизации.
Поэтому Маск и нервничает, не желая быть в роли "оппенгеймера". Вот кто то говорит, что сеть не может сравниться с человеческим гением. А и не надо! Хватит и того, что придумал человек для своего уничтожения. Наши ракетки могут взлетать не только вертикально ...
   111.0.0.0111.0.0.0
Это сообщение редактировалось 31.03.2023 в 19:10

Xan

координатор

Evgenij> Цивилизация подхдит к такому уровню своего развития, который предполагает уничтожение этой цивилизации.

В ютубе есть много роликов на весёлую тему "великий фильтр".

Например:
(https://youtu.be/tvzfEA75CRQ)
   99

Sandro
AXT

инженер вольнодумец
★★
Nec> Проверял GPT-4, просил написать код, который заранее мне известен со всеми нюансами. С нескольких попыток ничего у ИИ не получилось. Сырой алгоритм - куски сайтов с поисковика накопировала в ответе. В общении тот же уровень - собеседник так себе.

Ну почему же сырой? Очень даже отточенный. На задачу копирования и комбинирования кусков. Больше ничего он не умеет и никогда не сумеет.

"Вихрь поля градуирует себя вдоль спины, из коего и возникает синекдоха отвечания". А внутри — неонка.

Блин, как же всё-таки были прозорливы классики!
   52.952.9
KZ Сonquista rocket #31.03.2023 10:17  @Nec#30.03.2023 18:57
+
-
edit
 

Сonquista rocket
Михаил Павлодар

втянувшийся
Nec> Быстрее разум человечества деградирует до уровня нейросетей...
   111.0.0.0111.0.0.0
BG intoxicated #31.03.2023 11:27
+
-
edit
 

intoxicated

Mr. «Никогда»


Это конечно неправильный топик про GPT-4. Нужно иметь ввиду что дела весьма сериозные несмотря на то что этот чат-бот все еще конечно не является AGI/ASI - полноценным ИИ. Однако развитие в этом направлении уже пошло бешенными темпами и достижение сингулярности (!!!!) может случится чуть ли не в этом году!
   111.0111.0
LT Evgenij #31.03.2023 15:45  @intoxicated#31.03.2023 11:27
+
-
edit
 

Evgenij

втянувшийся

intoxicated> ... достижение сингулярности (!!!!) может случится чуть ли не в этом году!
В этом году не может. Доллар падает, Трампа в тюрьму тащат, госдолг США зашкаливает, нацисты не сдаются, тащат Европу в кризис. Но все это пройдет, а в промежутках между войнами техническая сингулярность превратит человека в полного робота, а весь окружающий нас технический мир будет как гигантский суперкомпьютер. Уже сегодня я не могу получить свои кровные из банка без телефона. Этот проклятый шпион знает всю мою жизнь, все мои желания и даже ночью записывает мой храп на подушке. Утром просыпаюсь, смотрю почту в компе, а там уже реклама средства от храпа.
   111.0.0.0111.0.0.0
mumr> По работе надо было с одного языка программирования на другой скрипт переделать, так он точно и подробно объяснил что какой непонятный оператор делает...
А в магазине тоже так можно стенку подвинуть?
А перевести программу с фортрана на матлаб, например, сможет?
А если нет адекватных операторов и команды goto, например?
   109.0.0.0109.0.0.0
EE Татарин #31.03.2023 16:59  @Sandro#31.03.2023 09:38
+
+2
-
edit
 

Татарин

координатор
★★★★★
Nec>> Проверял GPT-4, просил написать код, который заранее мне известен со всеми нюансами. С нескольких попыток ничего у ИИ не получилось. Сырой алгоритм - куски сайтов с поисковика накопировала в ответе. В общении тот же уровень - собеседник так себе.
Sandro> Ну почему же сырой? Очень даже отточенный. На задачу копирования и комбинирования кусков. Больше ничего он не умеет и никогда не сумеет.
ЭТОТ - да.

Но по результатам долгих игр с ним, я бы не сказал, что тут копипаста. КМК, на этом пути реально нащупать интеллект. По крайней мере, то, что он делает сейчас, выходит за рамки "Т9 на стероидах".

Тут уже реально впору думать "а что такое на самом деле, этот ваш /интеллект/, если простая нейросеть неотличима многих от его проявлений?".

Например, я попросил сгенерить его комедийный вариант сценария для продолжения сериала "Хроники Сары Коннор". Он выдал несколько вариантов с вполне годными шутками, привязанными к контексту. Например, Терминатор и Джон по его сценарию прокрадываются к заначке Скайнета под видом команды уборщиков, охранник спрашивает "почему вас меньше, чем должно быть?". Терминатор отвечает, что-то в духе "я тяжёлый, общая масса не изменилась, пропускай".
Меня это глубоко впечатлило, потому что эта шутка - не имплементация какого-то простого паттерна с перестановкой слов и изменением контекста. Она реализует более глубокий паттерн шутки и юмора вообще.

Тут, КМК, случается явный переход количества в качество, потому что при переработке всё бОльшего и бОльшего количества материалов предикативная сеть видит всё более и более глубокие паттерны и взаимосвязи.

...Попроси её, например, просто, на примере с кубиками или игрушками, объяснить 10-летнему ребёнку, почему гомеоморфный образ группы изоморфен фактор-группе по ядру гомоморфизма. Я попробовал, и он сумел (проверял на коллеге, который прошёл мимо теории групп в своё время). Это - реально круто.

По факту, во многих случаях это реально эквивалент человека с низким КИ, но ОЧЕНЬ, ЧРЕЗВЫЧАЙНО хорошо эрудированного. Ты можешь спросить, какая связь между образом Лилит в еврейских текстах и Тиамат, и он найдёт её, покажет, даст тебе контекст. Или про ондуляторы ЛСЭ рентгеновского диапазона, или про особенности сверхоперативно памяти БЭСМ-6.

То, что он пока не видит глубоких связей и не особенно способен пока итеративно и рекурсивно работать над своим ответом (например, над кодом) - фигня.
Большинство людей не может, так что они - бездумные болванчики?

...
Не, это реально очень интересная тема. Потому что связь слов создаёт больше, чем возможность предсказывать их появление, при достаточно большом обучающем корпусе текстов, она создаёт семантическую сеть "понятий", объясняющих слова через друг друга, а это уже очень близко к полноценному ИИ.
   111.0.0.0111.0.0.0
EE Татарин #31.03.2023 17:00  @Garry_s#31.03.2023 15:54
+
-
edit
 

Татарин

координатор
★★★★★
mumr>> По работе надо было с одного языка программирования на другой скрипт переделать, так он точно и подробно объяснил что какой непонятный оператор делает...
G.s.> А в магазине тоже так можно стенку подвинуть?
G.s.> А перевести программу с фортрана на матлаб, например, сможет?
G.s.> А если нет адекватных операторов и команды goto, например?
Да.
В большинстве случаев - да.
   111.0.0.0111.0.0.0
+
-
edit
 
Тогда зачем вообще теперь нужны программисты/писатели кодов?
Даёшь ему команду обратить матрицу, для начала, или проинтегрировать систему уравнений с такими начальными условиями, выбрав оптимальный язык.
Уравнения распознаёт?
   111.0.0.0111.0.0.0
EE Татарин #31.03.2023 18:14  @Garry_s#31.03.2023 17:58
+
-
edit
 

Татарин

координатор
★★★★★
G.s.> Тогда зачем вообще теперь нужны программисты/писатели кодов?
G.s.> Даёшь ему команду обратить матрицу, для начала, или проинтегрировать систему уравнений с такими начальными условиями, выбрав оптимальный язык.
G.s.> Уравнения распознаёт?


me: Напиши код на удобном языке для обращения матрицы.
 

chatGPT:
В Python для обращения матрицы можно воспользоваться функцией inv() из модуля numpy. Вот пример кода:


import numpy as np

# создаем матрицу 2x2
A = np.array([[1, 2], [3, 4]])

# обращаем матрицу
A_inv = np.linalg.inv(A)

# выводим результат
print(A_inv)


В данном примере мы создали матрицу A размером 2x2, затем обратили ее с помощью функции inv() и результат записали в переменную A_inv. Наконец, мы вывели обратную матрицу на экран.

Обратите внимание, что функция inv() может выдать ошибку, если матрица необратима (например, если ее определитель равен нулю). В этом случае необходимо применить другие методы для нахождения обратной матрицы или решения системы линейных уравнений.
 


...а что касается "зачем нужны кодеры, если есть chaGPT?".
Я его довольно долго мучал программой вида
for(int a = 0, b = 10; a<b; a++, --b--)one_step();
типа, "сколько раз выполнится цикл? сколько раз будет вызвана one_step?"

И вот тут хорошо видно, что это не "интеллект" в том смысле, в котором обычно употребляется это слово.
То есть, он "понимает" код. Но итеративно "исполнить" его в голове, как сделает обычный программист, предсказать результат он не может.
Сильно путается в показаниях, извиняется за ошибки, в общем, ведёт себя как студент-первокурсник на собеседовании на джуниора.

Но типовые задачи и адаптацию их к контексту он делает. И по большей части очень хорошо.
Какую-нить механическую работу на него переложить (например, код ещё и тупо вбить нужно) - милое дело. Потому что он генерирует код (или его заготовку) приличного качества и со скоростью несколько символов в секунду. То, что его потом нужно просмотреть на предмет ошибок и, если нужно, отладить - фигня вопрос.
   111.0.0.0111.0.0.0
Это сообщение редактировалось 31.03.2023 в 18:23
BG intoxicated #31.03.2023 18:25  @Garry_s#31.03.2023 17:58
+
-
edit
 

intoxicated

Mr. «Никогда»


G.s.> Уравнения распознаёт?
Неделя назад версия GPT-4 (она платная, 20 бакс в месяц, бесплатная версия GPT-3.5 не умеет это и вообще на ином уровне) была интегрирована с кучу апликации, одна из них Wolfram Alfa - математический софт.
   111.0111.0
EE Татарин #31.03.2023 18:30  @intoxicated#31.03.2023 18:25
+
-
edit
 

Татарин

координатор
★★★★★
G.s.>> Уравнения распознаёт?
intoxicated> Неделя назад версия GPT-4 (она платная, 20 бакс в месяц,
Есть очень хороший вариант с оплатой позапросно (через API). Стоимость запроса зависит от потребовавшегося машинного времени на ответ, но это получается порядка тысячных-сотых-десятых американского цента за килобайт ответа.

Мясной сотрудник генерирует тексты примерно в тысячи раз дороже, так что если нужно для дела (пусть даже редкого), то такая платность - вообще не препятствие.
   111.0.0.0111.0.0.0

  • Xan [31.03.2023 19:34]: Перенос сообщений в ...del
AD Реклама Google — средство выживания форумов :)
LT Evgenij #31.03.2023 21:15  @Татарин#31.03.2023 18:30
+
-
edit
 

Evgenij

втянувшийся

Татарин> Мясной сотрудник генерирует тексты примерно в тысячи раз дороже, так что если нужно для дела (пусть даже редкого), то такая платность - вообще не препятствие.
Не у всех сегодня есть возможность "проверить на зуб" GPT-4. Тема эта открыта в "Ракетомоделизме", а заинтересованности пока нет.
Был бы какой наглядный пример использования GPT-4 в ракетомоделизме, так интерес к теме повысится.
К примеру, попросить сеть составить "Инструкцию по мерам безопасности при изготовлении пропера".
Что выдаст сеть?
Или вопрос: "Выбор площадки для запуска моделей ракет с РДТТ". И так далее ...
Кто бы показал как это работает в реальности ....
   111.0.0.0111.0.0.0
1 2 3 4 5 6 7 15

в начало страницы | новое
 
Поиск
Настройки
Твиттер сайта
Статистика
Рейтинг@Mail.ru