наши морлоки
Jul. 17th, 2025 05:50 am![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
cantanapoliНынешняя наша временная точка мне напоминается самое начало «Игры престолов».
Все увлечены своими насущными проблемами, очень важно успеть свести все счеты и конечно же посадить на трон правильного короля — но где-то там далеко уже просыпается армия мертвых для того чтоб сожрать всех нас без разбору.
А может быть нет никаких белых ходоков? Может соврал перед казнью несчастный дезертир? Может просто командующему Ночным Дозором нужны рекруты и провизия, вот и пугает он заезжих лордов небылицами?
Все выглядит так что независимо от того как закончится это война (даже если она перерастет в мировую, а потом уж как-то закончится) на нас обрушится совершенно поразительное будущее. Отличное от всего того к чему мы готовились.
Да, я знаю что многие из вас не верят в то что ИИ может вырасти в нечто большее и другое, во всяком случае — скоро.
И поэтому — ладно, действительно не будем себя понапрасну пугать. Представим что ИИ не поднимутся выше покорных электронных рабов, исполняющих наши приказы.
Представим себе, ну вот хотя бы — медицину через двадцать лет после внедрения ИИ-врачей. Которые готовы провести диагностику на уровне величайших современных человеческих докторов, «светил», консультация которых сейчас доступна нескольким тысячам самых богатых людей.
Более того, такой врач знает досконально именно ваши особенности, он лечит именно вас, со всеми вашими болячками, аллергиями и прочей спецификой.
Он доступен 24/7, он никогда не устает и не нервничает.
Классно, правда?
А теперь задайте себе вопрос куда подевались обычные человеческие врачи. Неидеальные, нервничающие и расписанные на полгода вперед. И нет, это пост не об их печальной судьбе.
Тут важнее промоделировать в голове что происходит не с конкретным врачом — а целиком со всей человеческой медициной. Если человеческим врачам появится дешевая и качественная замена — люди тут же перестанут учиться по десятку лет. Выглядит все так что врачебная корпорация сколлапсирует в течении одного поколения.
И люди в массе забудут как лечить людей. Целые поколения врачей просто не появятся - зачем учиться тому, что машины делают лучше. Медицина навсегда станет вотчиной ИИ.
Это не выглядит как что-то страшное. Цена прогресса, все такое. Но ровно до того момента пока с ИИ все в порядке и они остаются нашими безусловными электронными рабами.
Может быть, всё именно так и должно быть. Но медицина — это лишь одно из тех дел, которых мы готовимся передать нашим благородным рабам.
Замените в этой истории врачей на учителей, ученых, инженеров, художников, управленцев.
Мы можем в результате создать мир, где человечество разучится быть человечеством — где каждый навык, каждое умение передано машинам «для нашего же блага». И тогда вопрос не в том, что случится, если ИИ сломается. А в том, останется ли тогда что-то, что можно будет назвать нашей цивилизацией.
no subject
Date: 2025-07-17 03:00 am (UTC)no subject
Date: 2025-07-17 08:34 am (UTC)no subject
Date: 2025-07-17 03:17 am (UTC)Это уже можно увидеть на примере штатов и Китая. Bо многих областях машиностроения в штатах утерряна экспертизa. . Производства начали закрывать лет 20-30 тому назад и процесс закрытия производств и конструкторских фирм продолжался и продолжается всe эти годы, некоторые даже не слишком технологичные операции стали почти невозможны (в штатах), формы для литья под давлением как пример. Найти можно, но сроки изготовления, качество и цена на порядок от китайских в худшую сторону. И никаким переносом производств обратнио, как рыжий клоун пытается сделать, это не исправить. процесс с положительной обратной связью Десятки лет потеряны и ситуация такая что спецов просто некому учить
no subject
Date: 2025-07-17 03:43 am (UTC)no subject
Date: 2025-07-17 10:17 pm (UTC)Большинству врачей не нужно, кстати, придумывать что-то новое.
no subject
Date: 2025-07-18 05:14 am (UTC)Но бывает нужно работать руками.
no subject
Date: 2025-07-17 04:04 am (UTC)no subject
Date: 2025-07-17 04:21 am (UTC)Выхода два, как обычно. Возможность полноценно отделить знание от носителя — это революция уровня появления письменности, только круче. "Основание" — больше не фантастика.
no subject
Date: 2025-07-17 05:05 am (UTC)Вы оптимист если верите в таких робоврачей. За последние лет двадцать гаджеты конечно улучшились. А все важные вещи типа медицины, образования, или жилья стали роскошью уже сегодня. В реальной жизни ничего из этого не стало дешевле, доступнее, или качественнее. Сложно поверить в перелом этого тренда в отличии от разного рода дистопий. Глядя по сторонам Idiocracy была документальным кином а не Caprica .
no subject
Date: 2025-07-17 05:06 am (UTC)no subject
Date: 2025-07-17 05:07 am (UTC)no subject
Date: 2025-07-17 08:42 am (UTC)no subject
Date: 2025-07-17 05:50 am (UTC)Это может произойти только в том случае, если ИИ станет
1. Самообучаемым
2. Способным к генерации новых идей, их тестированию и внедрению.
Пока-что этого не видно.
На данный момент ИИ — это что-то типа электронного супер-Вассермана — очень начитанный, невероятная память и ноль способностей к анализу и синтезу.
ИИ несомненно сможет заменить часть врачей-диагностов. ИИ-домашний терапевт, я думаю, — наше уже ближайшее будущее и, на самом деле, спасение, т.к. толковых домашних терапевтов не хватает (да и никаких не хватает).
no subject
Date: 2025-07-17 06:24 am (UTC)"Но ровно до того момента пока с ИИ все в порядке и они остаются нашими безусловными электронными рабами."
Если говорить о нынешнем моменте — нынешние LLM очень далеки от того, чтоб заменить людей. Что будет происходить на данном этапе — это использование LLM специалистами для увеличения своей производительности. Ибо без человеческого контроля LLM по-прежнему работают по принципу "garbage in — garbage out".
Если говорить о теоретическом будущем когда человечество создаст настоящий ИИ — да, ваши опасения логичные.
no subject
Date: 2025-07-17 06:46 am (UTC)Чем более о далеком будущем мы говорим, тем больше уверенности в речах и тем меньше разумных оснований вести дискуссию. Будущее не предопределено а степень его предсказуемости обратно пропорциональна квадрату временного расстояния прогнозирования (а то и четвертой степени). Это кстати активно взяли на вооружение политики всех стран — посмотрите как дерзко и решительно прогнозируют "удвоение ВВП" через 10 лет всякие кремлевские карлики на фоне откровенно разлагающейся экономики у них сегодня, ну или как щедро обещают нам "триста миллиардов евро военной помощи Украине на период до 2038 года с началом поставко уже в 2028-м", дабы скрасить этим откровенную ничтожность текущей военной поддержки в сравнении с тем что выделяет на войну РФ.
Я не знаю как у вас с юристами, но в Украине ИИ в этой сфере просто категорически необходим. Уровень квалификации юристов (например юристов предприятий) просто ужасающий. Наши суды — наша самая позорная гнойная язва, наносящая самый страшный вред стране. Я сейчас активно практикуюсь в общении с Дипсиком на тему в которой я максимально компетентен — интенсивные технологии в агробизнесе. И там не garbage out (возможно потому что не garbage in) а высококачественная работа которую очень непросто сегодня получить от среднестатистического менеджера этой отрасли не только в Украине, но и во всех 11-ти странах где я вел бизнес. Лично я не боюсь конкуренции с ИИ в оставшиеся годы моей жизни. Не боялся бы я его и елси бы мне было лет на 20 меньше. Тут мне кажется все как в любимом анекдтте Любарского "Ты думаешь, что можешь бежать быстрее медведя? — Нет, я думаю что я могу бежать быстрее тебя"
no subject
Date: 2025-07-17 08:30 am (UTC)"Я сейчас активно практикуюсь в общении с Дипсиком на тему в которой я максимально компетентен — интенсивные технологии в агробизнесе. И там не garbage out (возможно потому что не garbage in) а высококачественная работа которую очень непросто сегодня получить от среднестатистического менеджера этой отрасли не только в Украине, но и во всех 11-ти странах где я вел бизнес."
Ну так собственно это то, что я и имел в виду. Актуальные ЛЛМ это хороший ассистент в руках специалиста. Калькуляторы и компьютеры не заменили математиков, но заменили вычислителей как профессию.
no subject
Date: 2025-07-17 08:40 am (UTC)Я не специалист в этом области, кстати сказать, и потому давно хочу спросить — а насколько корректен класс "ЛЛМ" по отношениюк. дипсик и чату ДжиПиТи? Они ж не только тексты генерируют — я например их юзаю преимущественно не для "напиши за меня статью, потому что я сам не в состоянии", а для достаточно сложных расчетов (испаряемость по пеннману, сезонное водопотребление, статобработка результатов эксперимента, расчет потерь потока воды по сложным конструкциям труб — все это ни на калькуляторе ни в экселе я например сделать не могу).
no subject
Date: 2025-07-17 08:45 am (UTC)Полностью корректен. Что многие не до конца понимают - в механизме работы для ChatGPT/Deepseek/... нету абсолютно никакой разницы между "напиши статью" и "посчитай вот это". Во внутренней логике программы эти две вещи есть равнозначные.
Именно поэтому кстати в сложных расчётах ЛЛМ уступают специализированным программам и иногда делают очень "тупые" именно математические ошибки. Особенно это было заметно в ранних версиях, сейчас методом костылей это существенно улучшили в актуальном поколении моделей, но тем не менее.
no subject
Date: 2025-07-17 08:49 am (UTC)Тогда получается что "математического ИИ" не бывает? Только текстовый, графический и видеографический? А вся математика реализуемая через ИИ- реализуется через текстовые (ну или лингвистические -не знаю как тут правильно перевести) методы?
no subject
Date: 2025-07-17 09:25 am (UTC)Насколько я знаю, на данный момент - да. Собственно все вышеупомянутые "текстовый, графический, видео, математический ИИ" реализуются одинаково. Разница только на каких данных тренировали конкретную модель.
no subject
Date: 2025-07-17 08:06 am (UTC)-> Классно, правда?
А как именно "классно"? У нынешних нескольких тысяч самых богатых людей дела обстоят получше чем в среднем по больнице (pun intended), но они тоже болеют и умирают.
А касательно реализации "катастрофического" сценария — вы имхо недооцениваете человеческую находчивость и рыночные силы. Вот представьте что завтра прилетели инопланетяне, погрузили всех врачей и студентов медвузов в свои тарелки — и улетели. Будет кризис здравоохранения и всплеск смертности? Будет. Профессия врача взлетит в престижности и оплате, куча народа начнёт менять карьеру на врачебную и штудировать медицинскую литературу. Года через три всё более-менее устаканится.
no subject
Date: 2025-07-17 05:53 pm (UTC)Ибо деньги и супер-пупер технику вы можете в Россию и Африку загнать, только врачей из того вы не получите. Школа нужна.
no subject
Date: 2025-07-17 10:22 pm (UTC)Остаюсь при своём мнении.
Надеюсь что экспериментально проверить не удастся :)
no subject
Date: 2025-07-17 10:21 pm (UTC)Я говорю не о магической таблетке, которая разом излечит всех больных (и заодно накормит всех голодных), а об увеличении качества медицины чисто из-за ее доступности и количества внимания, которое ии-врачи могут уделять пациенту.
Дальше у вас идет просто подмена тезиса — вместо истории о бесконечно увеличившемся количестве врачей вы почему-то описываете ситуацию когда их количество бесконечно уменьшается.
no subject
Date: 2025-07-17 10:25 pm (UTC)Я имплицитно понял ваш тезис как "ИИ заменит врачей, а если вдруг с ИИ что случится — то мы останемся без врачей". Я, правда, ситуацию "остались без врачей" рассмотрел в сегодняшнем дне, а вы — в будущем, так что моя аналогия действительно не полная.
no subject
Date: 2025-07-17 12:10 pm (UTC)Если ИИ добавить соответствующие датчики (видео, аудио, запах), то он таки сможет заменить дазе ОЧЕНЬ ХОРОШИХ врачей "на приеме".
Правда надо заметить, что ТАКИХ врачей и нынче не так, чтобы много. И дальше тоже скорее всего некоторое количество останется.
А в том виде, как ИИ есть сейчас, то это то, что ранее называли "экспертная система", т.е. расширенный справочник.
Если же вести речь про творческую часть деятельности... Тут один профессор физик предложил в интервью: а давайте возьмем "болванку" ИИ и скормим ему ВСЕ данные по физике и смежным наукам, которые были у человечества ДО 1925-го года и посмотреть — сможет ли он вывести принципы квантовой механики или нет.
Если да, то он таки ИНТЕЛЛЕКТ, если нет — то человечество пока может "спать спокойно"
no subject
Date: 2025-07-17 12:55 pm (UTC)Касательно "теста Эйнштейна" мне совершенно не очевидно что в том случае если у нас из ИИ не получается Эйнштейн, то все, нет повода волноваться.
На Земле в тот момент жило сколько? Миллиард с лишним? Эйнштейн, Паули и Бор принадлежали к крошечному интеллектуальному меньшинству. Их было таких сколько? Тысяча на весь мир? Две? Ну вот и смотрите пропорцию.
Далее, среди не понявших бы их теории в 1925-ом были бы, скажем, Гитлер и Сталин.
no subject
Date: 2025-07-17 03:22 pm (UTC)Гитлер и Сталин, а также 95 или 98% населения Земли не были ФИЗИКАМИ. Поэтому сравнивать с ними не корректно. Сравнивать все-таки надо сравнимые величины, а не метры и килограммы. Дело в том, что те постулаты квантовой физики не вытекали логически из предыдущих знаний. Так что тут предлагается именно проверка на способность ИИ ТВОРЧЕСКИ мыслить, и делать ПРЕДПОЛОЖЕНИЯ, основываясь на неявных данных, а не строить ЛОГИЧЕСКИЕ цепочки из уже известных данных.
no subject
Date: 2025-07-17 03:34 pm (UTC)А я собственно не к тому что Сталин и Гитлер были физиками, я говорю о том что они воздействовали на историю 20 века никак не меньше Эйнштейна, не обладая его уровнем интеллекта и знаний.
no subject
Date: 2025-07-17 04:19 pm (UTC)Эээээ, ну я в общем-то писал коммент про узкий срез — медицина в частности и наука в целом.
Истории не касался вообще
no subject
Date: 2025-07-17 03:52 pm (UTC)В фантастических романах главное это было радио. При нем ожидалось счастье человечества. Вот радио есть, а счастья нет (c)
no subject
Date: 2025-07-17 05:13 pm (UTC)no subject
Date: 2025-07-17 05:46 pm (UTC)no subject
Date: 2025-07-17 06:00 pm (UTC)no subject
Date: 2025-07-17 06:15 pm (UTC)Но с манипуляцией не согласен — на сегодня ЛЛМ нуждается в погонщиках и пока нет причин чтобы это изменилось. Да, оно «ставит диагноз» или «пишет программу» само и кратно быстрее чем человек ручками — но погонщик ему необходим, иначе плохо будет. Чем это от прялки Дженни по сути отличается?
Одежду для людей по прежнему делают люди. А то что не надо каждый стежок или проход утка или оборот колеса прялки своими руками — ну, хнык. Ну два раза хнык. Ситуации когда верхняя цель достигается сама по себе — не нахожу.
no subject
Date: 2025-07-17 10:28 pm (UTC)Одежду по прежнему делают люди поскольку одежда это не только прикрытие задницы, но еще и творческий момент — мода, туды в качель.
Если представить что ничего этого не было бы нужно, а нужно было производство бесконечного количества трусов — профессий, связанных с производством одежды давно уже не было бы. Все было бы заменено машинами.
Теперь смотрим на медицину — в медицине уровень творчества сильно переоценен. Широкий кругозор — да, нужен. Энциклопедические знания — желательны. Но вот прямо изворотливый творческий ум для диагноста обязателен только в сериалах вроде "доктора Хауза".
no subject
Date: 2025-07-17 07:50 pm (UTC)>Представим себе, ну вот хотя бы — медицину через двадцать лет после внедрения ИИ-врачей.
В этой картине нужно сделать еще одно допущение — либо хорошие ИИ-врачи доступны всем или почти всем, либо ИИ-врачи вытеснили обычных, а качество у них не очень (вернее, как придется). Второй вариант вероятнее. Если же ни того, ни того не случилось, то ИИ-врачи соседствуют с обычными.
>Которые готовы провести диагностику на уровне величайших современных человеческих докторов, «светил», консультация которых сейчас доступна нескольким тысячам самых богатых людей.
Это несколько маловероятно, говорю как специалист в knowledge representation. Проблема в том, что рассуждения о медицине обычно либо не очень детализованы, либо очень ресурсозатратны*. Плюс к этому, кому-то, обладающему знаниями по медицине, нужно будет поддерживать медицинские онтологии в рабочем состоянии и следить. Соответственно, скорее всего, ии-врач, доступный рядовому потребителю, будет очень низкого качества. Другое дело, что это не помешает ему вытеснить обычного врача, если очередной Маск пролоббирует соответствующий закон.
====
*Как только у вас появляются правила вида «если есть симптомы А и В, нет симптома С, то болезнь Х», объяснения / диагнозы становятся Σ^P_2-трудными (для сравнения, travelling salesman problem Σ^P_1-трудна). Разумеется, без таких правил можно жить, но за это платится увеличением размера вашей онтологии и / или невозможностью выразить некоторые условия. Если же вы хотите хорошей диагностики, то вам нужны правила, которые каким-то образом учитывают вероятности и т.п. Это, в свою очередь, тоже может привести к увеличению сложности рассуждений.
no subject
Date: 2025-07-17 08:05 pm (UTC)Огромное количество нужных и массовых профессий ушло в прошлое. Человечество меж тем чем-то до сих пор занято. Учтите что народу на планете при этом стало больше. Со времен луддитов громивших фабрики в 19м веке, население земли увечилось в разы. И большинство чем-то занято. И живут не хуже чем сто лет назад. Лучше живут в общем и целом.
Я хотел написать какие ранее востребованные занятия ныне бесполезны и не нужны никому. Долго думал и решил что лучше спросить у ЛЛМ. И спросил. Вот список. Здесь конечно далеко не все.
Obsolete Jobs from the Past
Technology-Replaced Jobs
1. Switchboard Operator – Manually connected telephone calls before automatic exchanges.
2. Telegraph Operator – Used Morse code to send messages; replaced by phones and internet.
3. Lift Operator – Operated elevators before automated button systems.
4. Typist / Word Processor – Dedicated to typing documents before personal computers became ubiquitous.
5. Computer (Human) – People who performed calculations by hand, especially in astronomy or engineering.
6. Film Projectionist – Operated film reels in cinemas, replaced by digital projection.
7. Punch Card Operator – Input data into early computers via punch cards.
8. Radar Plotter – Used manually to track aircraft during wars or early aviation.
📚 Service and Clerical Jobs
9. Lamplighter – Lit and extinguished gas street lamps.
10. Knocker-upper – Walked neighborhoods to wake workers by tapping on windows (pre-alarm clock).
11. Milkman – Delivered fresh milk daily; refrigeration and supermarkets made this unnecessary in most places.
12. Iceman – Delivered blocks of ice for iceboxes before electric refrigerators.
13. Town Crier – Made public announcements before newspapers and mass media.
🎭 Entertainment & Culture Jobs
14. Video Store Clerk – Rented out VHS/DVDs; replaced by streaming services.
15. Projection Booth Carbon-Arc Lamp Technician – Required to maintain old carbon-arc projectors.
16. Organ Grinder – Street performers with barrel organs and trained monkeys.
17. Script Copyist – Hand-copied books or plays before printing presses.
🏭 Industrial-Era Jobs
18. Coal Stoker / Fireman (on trains or ships) – Shoveled coal to maintain steam engines.
19. Chimney Sweep – Cleaned soot from chimneys; rare now with modern heating.
20. Leech Collector – Gathered leeches for medical bloodletting.
21. Pin Setter (Bowling) – Reset pins manually before automatic machines.
🪙 Money & Trade Jobs
22. Toll Booth Collector – Many toll roads now use automated/electronic systems.
23. Banknote Engraver (Manual) – Used for currency printing; now done digitally.
24. Rat Catcher – Common in cities during plague times; now replaced by pest control services.
no subject
Date: 2025-07-17 10:35 pm (UTC)То что огромное количество профессий ушло и еще уйдет в прошлое — неоспоримо.
Однако здесь мы видим ситуацию когда в прошлое уходит не просто профессия, а одна из самых важных общественных, научных и культурных общественных экосистем.
Извозчиков заменили шоферы, фонарщиков — электрики. Кто заменит уходящих со сцены врачей?
no subject
Date: 2025-07-18 01:00 am (UTC)Извозчики ушли не одни, вместе с ними ушли седельщики, берейторы, специалисты по изготовлению телег и экипажей, и т.д. и т.п, десятки профессий.
А врачи никуда не денутся как минимум до момента, пока не найдутся новые желающие брать на себя ответственность за медицинские решения. Когда
аяй сможет на шпиндель намотатьсяна аяй можно будет в суд подать и его изготовителя за малпрактис на казенный отдых отправить, вот тогда угроза медикам и появится.no subject
Date: 2025-07-19 03:39 pm (UTC)LLM — просто виртуальный робот, которого необходимо спроектировать, собрать, запрограммировать и эксплуатировать.
Главное вообще не это, а растущее неравенство и поправение политики в мире.
Проблемой поэтому будет не настроение внука Дипсика, а то, будут ли у вас на него деньги. И если да, то на лекарства и т.д. То есть ничего принципиально не изменится для обычного человека, только ухудшится, так как при текущем общественном строе уже разработанные "умные штуки" будут удешевлять всеми возможными способами. Так, что качество таковых для богатых и бедных будет разниться как небо от земли. Потому что именно в этой области разрыв потенциально может быть колоссален — от полной профанации, которую тёмный народ просто не поймёт, до действительно великолепного профессионализма на уровне всемирного консилиума лучших светил Земли. Вот это и будет при текущих тенденциях, а не медицина всем и даром.
Но главное даже не это. Вы неверно расставляете акценты. Важнее не лечить, а профилактировать болезни, обеспечивать высокое качество жизни каждого. А это, опять же, прежде всего деньги. Вопрос, сводящийся к неравенству.
Ну и кроме имущественного, экономического поправения, идёт ещё и наступление на права, на личную свободу, подъём ислама и фашизма. Глубоко тоталитарных идеологий, только и мечтающих использовать ИИ для тотального контроля над вашей жизнью.
Вот над чем надо думать. А не над надуманными фантастическими свойствами обычной программы, которая лишь кажется человеку великой и ужасной с силу своего размера и воспринимаемой нечёткости логики.
Реальные угрозы глобального масштаба, угрожающие человечеству в перспективе ближайших десятилетий — это бойня (пост)христиан с мусульманами, которую могут устроить фанатики на подготовленной "мультикультурализмом" и исламским одержанием почве и сваливание в Новое Средневековье. Вот и будут тыщу лет потом одни "игры престолов". Или "катастрофа бронзового века" — если "умнейшим людям планеты" "хватит ума" развязать глобальную ядерную войну или что-нибудь в этом роде.
Или вот ещё вариант, над которым я давненько уже думаю: а справится ли наше оцифрованное по самое немогу человечество с новым событием даже не уровня Мияке, а хотя бы Кэррингтона? Подумайте на досуге и вы, что останется от супер-пупер ИИ в случае падения всей инфраструктуры и потери памяти на уязвимых носителях.
А самый интересный вопрос: почему элиты, прекрасно зная о уязвимости, разворачивают все эти гигантоманские прожекты AI и CBDC?
no subject
Date: 2025-07-19 10:41 pm (UTC)Технологический переход сам по себе не страшен, он страшен в форме революции, каскадного обрушения прежних форм социального взаимодействия, каковым была промышленная революция. Когда миллионы крестьян, ремесленников, кустарей, внезапно оказываются за бортом цивилизации, это конечно пугает и обоснованно. Однако по части ИИ и отчасти роботизации можно уже зафиксировать, что революции не случилось и не случится. Переход грозит идти медленно, неспешно и немасштабно. Все навыки передать не получится либо нескоро, либо никогда. А к тому времени, когда машина будет делать хотя бы 50% работы сегодняшнего человека, не факт что от самого человечества останутся 50%, и уж вопрос цивилизационного вектора как-нибудь утрясти получится точно.