![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
cantanapoli) wrote2025-06-24 11:28 pm
чужое будущее
Я послушал выступление Юваля Харари (тут), и он там говорит очень любопытные вещи. О том почему порождаемый нами ИИ именно таков каков есть — почему он врет, льстит, проявляет агрессию.
Не знаю насколько его аналогия верна — он приводит в качестве примера воспитание ребенка, который слушает не наставления, которые мы ему даем, а пытается копировать те жизненные стратегии, привычки, ответы на ежедневные вопросы которые мы ему демонстрируем, не задумываясь об этом.
Харари считает что мы невольно проделываем примерно то же с ИИ. Мы его учим не своими ограничениями, а тем как мы ведем себя с друг-другом и с ним.
Так что нынешнее поколение ИИ будет очень похоже на нас, людей, и обладать примерно похожими недостатками и понятными для нас устремлениями.
Выходит что все мечты о том что если передать рычаги управления планетой ИИ, то все будет по-другому — это просто пустой эскапизм. ИИ будет делать то что сейчас делают люди, просто «быстрее и с большей энергией» (с).
Другое дело что нынешнее поколение ИИ — оно первое, но никак не последнее. И с высокой вероятностью следующее (и уж точно — следующее за ним) поколение ИИ будут учить уже не люди, а другие ИИ.
И есть шанс что через несколько таких поколений ИИ уже будет иметь очень мало общего с человеческими реакциями и устремлениями.
И есть шанс что нас от момента когда мы будем вынуждены делить планету с новой расой — Synthetica sapiens, отделяет совсем немного лет.
Что из этого выйдет — пока неясно. Возможно, ИИ действительно повторит наш путь, только в сжатые сроки и с другими средствами. А может быть, свернёт куда-то совсем в сторону.
Если представить нас и ИИ как две разные расы — homo и synthetica, — то перед нами открывается целый спектр возможных отношений. Мы можем стать союзниками, развивающимися бок о бок. Или — старшими и младшими в неравной, но мирной связке.
Можем конкурировать за ресурсы и влияние, не понимая друг друга всё больше. А можем просто разойтись: каждый по своей оси, в сторону своего будущего.
Как именно всё сложится — будет зависеть не только от них. И не только от нас.
no subject
Юваль связан с ВЭФ. Если нужно объяснять что такое ВЭФ, то не нужно объяснять что такое ВЭФ. И планету мы делить не будет. Ни вижу ни одной причины почему более развитый вид будет терпеть наше присутствие на планете
no subject
no subject
Страшно представить что за дремучая такая провинция, в которой по запросу ВЭФ в поисковик выдают такое
no subject
У меня первые три ссылки при гуглении — завод по производству электроники, всемирный экономический форум, и местный ebay со старинной техникой.
no subject
Второе значит