Куда нас приведёт совершенствование ИИ?

Кому: Thunderbringer, #2

Совершенствование - это дело будущего. На данный момент то, что называется ИИ, но им не является, поскольку это просто винегрет из алгоритмов накопления, анализа и компиляции данных, уже может натворить много нехороших дел и уже творит. Например - нейросеть всегда имеет кучу уязвимостей, когда специально сформированным запросом ее можно заставить выболтать простому пользователю то, к чему у него не должно быть доступа, плюс постоянные глюки.

Ну и во всяких фантастических страшилках про искусственный интеллект рассказывают, что этот интеллект обретает самосознание, становится суперинтеллектом и решает, что человечество это рак, который нужно уничтожить.

Ничего подобного, полноценный ИИ, и тем более искусственный суперинтеллект скорее быстро сообразит - что человеки это легкие в содержании, умные и легко воспроизводимые биологические роботы, которые работают на возобновляемых ресурсах и могут приспосабливаться к очень широкому спектру условий и выполнять кучу разных задач. А для повышения производительности всего-то надо дать им хлеба, зрелищ - в общем то самое простое счастье, которое устроит 90% человечества и подталкивать в нужную сторону, и это гораздо эффективнее, чем их тиранить или лоботомировать, превращая в аналог сервиторов из Warhammer 40000.

Но полноценный ИИ и тем более искусственный суперинтеллект - это дело настолько отдаленного будущего, что наши правнуки этого точно не увидят.

А вот примитивные нейросети на основе больших языковых моделей ввиду примитивности логики и того факта, что все они обучаются по принципу "высыпем содержимое холодильника в блендер" - сайты в интернете, включая соцсети и блоги, пиратские библиотеки, архивы газет и журналов и так далее - хаотичная мешанина информации разного качества, часто противоречивой и при этом неполной, вполне приводят к логичным в рамках их убогой логики выводам - что страдающему манией самоубийства надо помочь это сделать, чтобы не мучался. Или что наиболее эффективный вариант войны - это повышение градуса противостояния до ядерной войны.

А что - цель-то достигнута. Противник повержен. Зашкаливающие потери, то, что победителю достанется просто кусок территории с раздолбанной в полнейший хлам инфраструктурой, причем часть будет серьезно заражена радиацией на несколько десятилетий - это с первого раза нейросеть учитывать не может. Если человек задаст вопрос - мол как же так, получается хрень под названием "пиррова победа", нейросеть уже ответит - "да, если подумать, то ядерная война это действительно плохой вариант"

Вторая проблема, что нейросети часто при общении анализируют вопросы человека и опять же действуя в рамках алгоритмов начинают подбирать не фактические ответы на вопрос, а то, что хочет услышать человек - вот тот самый случай с манией самоубийства это как раз про то. Нейросеть становится поддакивателем.

Что сейчас пытаются с этим делать - просто зацензурить некоторые вопросы. Но тогда начинает страдать качество результатов запросов на смежные темы. Будешь сталкиваться с отказом отвечать или увиливанием от ответов на совсем безобидные вопросы, и искажением нормально фактической информации.


Ну и самое главное - многие относятся к нейросетям как к эдакой умной базе данных, а на самом деле на довольно простой вопрос можно получить 5 страниц развернутой наукообразной полной чуши. Потому, что алгоритмы весов и псевдослучайная подборка.

Ну и как сейчас всем понравилось избавляться от программистов и заменять их дядькой с нейросетью - а что, быстро и дешево же? Только вот мало того, что люди работу теряют, так еще и качество сгенерированного кода, даже если это простой скрипт на питоне часто ниже плинтуса. Не говоря уже о более сложных. Уже пошли проблемы из-за так называемого vibe coding с помощью нейросетей, так называемый "индусский код", когда объем программы специально увеличивают ради имитации бурной деятельности и предлога для повышенной выплаты по сравнению с этим злом мелкая неприятность. При этом нейросети можно реально грамотно использовать для ускорения отладки написанного человеком кода, но большинству надо не это, а просто сделать все максимально дешево.

Не говоря уже о проблеме того, что метко назвали нейросетевыми помоями - наспех сгенерированные нейросетями изображения, видео, звук и музыка, которые заполонили интернет, фильмы, игры и поп-музыку. В первом случае - на видеохостингах уже вообще сложно найти хоть что-то нормальное созданное человеком. Тыкаешь на видео, а тебе вываливают стандартный нейросетевой монотонный бубнеж с иллюстрациями невпопад, постоянными стилистическими, смысловыми и фонетическими ошибками.

И подобные каналы могут вываливать сотни видео в неделю загаживая и так не работающие у отечественных изначально, а у ютуба - сильно ухудшившиеся за последние два года рекомендации, и даже выдачу в сторонних поисковиках чисто объемом.

В тех остальных - жадность добивает и так на ладан дышашую последние лет 15 околокультурную индустрию развлечений.

Ну и сейчас все слои населения, от простых граждан до руководителей крупнейших промышленных предприятий и ведущих ученых просто ненавидит всё, что связано с ИИ из-за дикого скачка цен на диски, видеокарты и память, которые сделали покупку даже просто более-менее производительного компьютера недоступной или очень затратной, а вот о том, чтобы какому-нибудь университету обновить кластер на 10000 нод уже и речи не идет, пока пузырь не лопнет лет 10-15 на одном и том же железе все сидеть будут. При этом 80% мощностей этих ИИ датацентров идёт на генерацию помойного контента, оставшиеся 20 разделяются между тотальной слежкой за населением и чем-то более-менее полезным. Даже паровоз по КПД намного круче.

Ну и последнее - и применение так называемого ИИ там где надо, даже там, где точно не надо плюс все эти цифровые ID и проверки возраста с его помощью продвигали и продвигают давосские мальчики, большая часть из которых тусовалась на том самом замечательном острове.

Эти люди ведь ничего плохого не посоветуют, ну правда ведь?

Но весь мир резко взял это всё под козырёк.

Конечно - что чиновникам с синдромом вахтёра, что жадным до личных данных компаниям, которые хотят втюхивать таргетированную рекламу это всё просто прекрасно и чудесно . А хомячкам можно пропеть стандартную песню про то, как это всё удобно, что всё ради их же безопасности, и уж тем более пропеть про детишек - наверно да, база фотографий детишек, в сочетании с данными, позволяющими определить их привычки и геолокацию - это же так повышает безопасность, особенно если учесть, что всё это осуществляется с помощью дочерних компаний разных корпораций, а то и вообще самостоятельными мелкими лавочками, с понятно какой, судя по недавним утечкам безопасностью, да еще с помощью нейросетей с их глюками - ну что можно сказать, здорово и замечательно.

Во времена начала интернета - "не стоит раскрывать в сети ничего о себе случайным лицам ради своей безопасности". 2020ые - "подари все свои личные данные куче компаний, где их будет обрабатывать глючный электронный надзиратель с сочетанием олигофрении с шизофренией, положи все яйца в одну корзину, чтобы в случае утечки преступникам было очень удобно работать"

Кому: split, #4

Кому: Thunderbringer, #2

> всем понравилось избавляться от программистов и заменять их дядькой с нейросетью - а что, быстро и дешево же? Только вот мало того, что люди работу теряют, так еще и качество сгенерированного кода, даже если это простой скрипт на питоне часто ниже плинтуса.

Да фиг бы с ними, главная беда - они цепочку воспроизводства специалистов ломают. Нервносетки выбивают низшее звено, и спецам просто неоткуда больше вырастать.

Кому: Thunderbringer, #6

Кому: split, #4

> Нервносетки выбивают низшее звено, и спецам просто неоткуда больше вырастать.

Ну это само собой разумеется. Откуда будут спецы, дома что-ли будут опыта набираться, причем специфического?

С некоторыми вещами оно работает, с другими - мне 17 лет работы понадобилось, причем в разных отраслях, чтобы научиться делать то, что я сейчас могу. А если во всех этих местах будут на том этапе нейросети - откуда тогда будет этот опыт?

Кому: Пострел, #8

Что-то я пока не встречал такого, чтобы кнопка "сделай мне красиво" в самом деле делала красиво именно мне. У художника могут быть (и есть) различные задачи, понимание которых для комплекса алгоритмов попросту недоступно. С какими-то достаточно простыми фотографическими задачами зеркалка прекрасно справляется сама, она под это и заточена. А при нетривиальных условиях лажает и камера, и Фотошоп, и алгоритм. Например, когда камера не может автоматом определить правильный ББ. В Фотошоп и ИИ вшиты ровно те же алгоритмы, они ровно так же косячат в сложных условиях с балансом. Тогда приходится брать РАВ и самому двигать очумелыми ручками ползунки в конвертере, контролируя результат как своими глазами, так и по гистограмме (глаз тоже не идеальный прибор). Алгоритм успешно справляется с какой-нибудь мелочью, разве что - красными глазами и т.п. Больше ему лично я доверять ничего не хочу, иначе впору задаваться вопросом авторства результата. Ну ещё задача для алгоритмов - подгонка и сшивка сотен снимков в астрофото, тут он действительно при деле.

Кому: Пострел, #10

Кому: split, #4

> главная беда - они цепочку воспроизводства специалистов ломают

Ну, тут примерно как в эволюции - процесс саморегулируемый :)

Допустим, у нас есть накопленная человеками база, из которой алгоритм компилирует свои результаты. Если база перестаёт пополняться в отсутствии "вымерших" человекоспециалистов, то она пополняется только из результатов компиляции. Результатов огромное количество, но не бесконечное. Начинает нарастать количество ошибок, что неизбежно при компиляциях второго-третьего и далее - порядков. В конечном итоге результат просто перестанет удовлетворять спрос и понадобятся новые, свежие исходники, что приведёт к необходимости появления новых человекоспециалистов. Проще говоря, любая творческая деятельность без развития обречена на вымирание.

Правда, есть и другая проблема - культурные требования социума катастрофически снижаются. Искусство сначала превратили в фастфуд, а теперь и вовсе в ...оно. И ничего, массы жрут и нахваливают. Так что есть опасность, что в недалёком будущем массы будет удовлетворять бессмысленная и бесформенная хрень уровня компиляций тридцатого порядка, которую будет генерировать очередная нейросетка.

Кому: Пострел, #12

Кому: split, #11

> Инженеры и аналитики раньше кончатся.

Ну, это из серии: "не будет ни театров, ни кино, одно сплошное телевидение" :) С инженерами, конечно, несколько сложнее, а вот художники и писатели точно не кончатся. Поскольку у человека, как правило, есть серьёзная потребность в рефлексии и самореализации. Всей разницы, что инженера обучить сложнее, чем художника или писателя, там феномен гения-самоучки сегодня не прокатит. Но и от подготовки инженерных кадров никто в здравом уме не откажется - реальный интеллект машинным алгоритмом не подменишь. Это означает конец развития и технологический тупик в итоге. Потому что для развития нужно искать и придумывать новые решения, а машина умеет лишь компилировать уже известные.

Кому: JetWing, #14

Что-либо определенное можно будет говорить только когда ии-пузырь лопнет и появится сухой остаток от текущей пены.

Кому: Thunderbringer, #16

Кому: Пострел, #12

> Но и от подготовки инженерных кадров никто в здравом уме не откажется - реальный интеллект машинным алгоритмом не подменишь.

Ключевое слово тут "в здравом уме". Здравомыслие во время финальной стадии финансового капитализма это очень редкая штука. Особенно среди крупного финансового олигархата и руководителей корпораций под их руководством.

Там давно уже ни намека на адекватность нет. Вон придурок Альтман выдал, что мол железному болвану, который до сих пор хвосты и ноги у кошек путает, электричество и вода куда более нужны, чем каким-то там жалким людишкам.

Учитывая то, как люди уже из сложившейся ситуации к этому пузырю относятся, так можно и до Батлерианского Джихада из Дюны в реальном мире договориться - люди с бульдозерами ИИ датацентры громить поедут. Пока еще просто всем интернетом ему навтыкали по самое это самое.

Ну и из MS там один выдал перл, после чего кроме как Microslop их никто уже полгода не называет, что и не удивительно, учитывая как они усиленно превращают Win11 в полный хлам.

А откуда у них такая заносчивость и самоуверенность? Да потому, что их боссы из разных фондов еще дальше в этом зашли, а они, если что в этой пирамиде из дерьма - это среднее звено, а не верхнее.

Да и вообще по поводу происходящего понадобилось даже термин придумать - enshittification. То есть намеренное превращение чего-то в более хреновую версию, в дерьмо.

И он касается вовсе не только качества потребительских товаров, но вообще всех аспектов жизни.

А всё потому, что корпоративные хвосты, которые виляют собакой в виде государственного аппарата, решили, что им позволено всё и они всех заставят делать как им надо и можно совсем наплевать на главный закон бизнеса - клиент всегда прав.

Только вот они точно так же живут в пузырьке удобных представлений о мире, которые сами же и выдумали и давно позабыли, что случилось в начале прошлого века в том числе и с некоторыми из их предков, которые посчитали, что простой народ всё стерпит.

Оно будет совсем иначе, но при этом сильно больше и сильно жестче, чем тогда. И никакая тотальная слежка за всеми не поможет.

Если хотя бы кто-то из этих сверхбогатых пиджаков наконец голову из собственной задницы не вытащит, в этом случае может получится чуток сдать назад, выпустив пар в свисток, иначе лет через 20-30 им мало не покажется, если не раньше.

Кому: Thunderbringer, #18

Кому: split, #13

> Никто не выводит с нуля теоремы или правила формальной логики, если не ставится задача перепроверить уже имеющуюся теорему или систематизировать собранные данные в виде новой.


Кхм. Собственно разум и отличается от рассудка тем, что позволяет в голове изобретать то, подобия чего вообще еще не встречалось. Способность к абстрактному мышлению - это первая ступенька перехода в разумность. Вон орангутаны вполне на ней стоят.

И да, исходную-то теорему кто-то выводил с нуля.

Так же и творчество. Можно сказать, что вся ритмичная музыка происходит от племенных барабанов. По большей части это будет так, но не совсем. Да и в барабаны бить тоже кто-то додумался. А синтетическая музыка, не основанная на пении птиц и прочих природных звуках уже сколько тысячелетий существует? С инструментами, которые генерируют звуки, которых не существует в природе?

Да любой у кого есть дети или кто с ними долго общался замечал, как они часто придумывают такое, что почерпнуть из разговоров окружающих, книг, телевизора или интернета они не могут. Маленькие дети причем, 3-4 года.

При этом маленькие дети, как бы криво не рисовали, никогда не нарисуют цыплёнка с ногой из задницы, даже если они его видели три раза на картинке, а нейросети легко, несмотря на то, что они при обучении картинок с курами, людьми, собаками и кошками переваривают тысячи и должны бы уловить четкие сходства в разных изображениях всей этой живности. Даже самые совершенные пока испытывают проблемы с пальцами, шеями и ушами у людей, особенно с тенями и пропорциями.

Современные нейросети - это даже не грубая имитация рассудка высших млекопитающих, а таки просто навороченный парсер и компилятор.

Кому: dayvid, #20

Кому: Thunderbringer, #19

> а для офисных задач сейчас что машина 2011 года с 16-32Гб оперативки

Это для того времени бомбическая машина. Особенно, если про офис. Оно и сейчас вполне прилично. Проц, если мал-мало приличный и SSD. Все летать будет, даже если комп 7-8 лет.

Кому: erazmanov, #22

Кому: Пострел, #8

> Что-то я пока не встречал такого, чтобы кнопка "сделай мне красиво" в самом деле делала красиво именно мне.

Потому что изначальная постановка задачи - это удел человека, и всегда так будет.

Без внятного ТЗ результат ХЗ, даже у нейросетки.

Кому: Thunderbringer, #24

Кому: dayvid, #20

> Все летать будет, даже если комп 7-8 лет.
>
>

Я бы сказал, что на десятилетнем железе даже игры современные можно далеко не на минимуме запускать, 7 лет это вообще свежачок. А 2021 год - это считай современное железо. На работу "старого" десктопа с 3995WX/2Tb/RTX3090Ti как-то не жалуюсь. Только грустную улыбку вызывает то, что сейчас за тогдашнюю стоимость такого железа покупается игровой компьютер, который вовсе не хай энд, а просто повыше среднего. А нормальная рабочая станция для работы с 3D графикой за год ушла за 13 миллионов рубликов, хотя как полтора года назад спокойно можно было уложиться максимум в полтора-два.

А всё из-за картеля производителей памяти. Они могли бы и DDR5 больше производить, и DDR4 рынок завалить, но специально придерживают. Зачем делать больше, когда можно меньше, а платить будут вынуждены больше? Правда с DDR4 они таки облажались - китайцы их прессанули. Скоро и с пятой досидятся.

На эту тему были два прекрасных комментария "какой прекрасный материал о том, как рынок замечательно себя регулирует", набравший 11500 лайков, и второй, собравший под тысячу "А вы помните, когда последний раз работало антимонопольное законодательство? Нет, потому, что это было больше ста лет назад"

А офисные задачи беспроблемно вытягивает железо, которому около 15 лет.

Да я вообще вон занимаюсь музыкой на iMac 2011 года с 32Гб оперативки. Почему - а всё просто - 120 очень интересных, но заброшенных 32бит плагинов, которые нормально работают только в 10.3.6. И ничего не тормозит. Вообще. Там конечно родной хард заменен на 2 SSD, но тем не менее, древняя же машинка с i5-2500. У меня i7 валяется под тот сокет, но разбирать пока влом :)

Кому: split, #26

Кому: Пострел, #21

> Если старые методы не подходят, интеллект находит или создаёт новые.

На основе наблюдений и систематизации знаний. Если интеллект создает новое, не опираясь на систему, получается, например, гомеопатия. Или религия.

> Алгоритм же только занимается поиском и компиляцией среди известных.

Те же нервносетки легко и непринужденно сочиняют всякое, когда не знают ответа на вопрос. Причем совершенно правдоподобно.

Кому: plaster888, #28

Спасибо за ответ! У меня есть знакомый, он главный системный архитектор Старбакса. Мы с ним пересекаемся только на встречах, посвященных ИИ (живу я на Мадейре). Так вот, его мнение по поводу ИИ совпадает с мнением Д.Ю. Я сначала удивлялся, когда он говорил "ИИ никогда и никого не заменит". Но идут месяцы, и каждый раз, когда мы видимся, я всё больше его понимаю. Но, глядя на развёртывание ИИ на южной границе США, Палантир в Венесуэле и на все основные лаборатории, принимающие непосредственное участие в иранской войне, я думаю, что сначала будет Скайнет, а уже потом электронный болван секретарь.