как перестать слышать приказы богов?

[cantanapoli]

Полвека назад вышла книга Джулиана Джейнса «Происхождение сознания в процессе слома бикамерального разума» и сразу наделала много шума.

И неудивительно — автор там делал несколько крайне смелых предположений. Его идея состояла в том что еще три тысячи лет назад люди были лишены того что составляет основную часть нашего сознания — внутреннего диалога. 

Джейнс считал что до определенного момента в голове у людей существовал не диалог, а монолог, в ходе которого правое полушарие приказывало, а левое исполняло эти команды. При этом сам человек был уверен что в голове его звучит голос богов, с которым нельзя спорить и которого нужно слушаться.

В этой схеме занятно было еще то что правое полушарие вообще-то «немое»-речевые центры расположены как раз в левом. Правое же отвечает только за эмоциональное и музыкальное восприятие речи.  

Гипотеза бикамерального разума, разумеется, не может быть и не будет подтверждена в научном смысле — хотя некоторые нынешние исследование «голосов» которые люди слышат во время шизофрении указывают на то что механизмы их возникновения близки к тем что описывал в своей книге Джейнс.

Но самое интересное, что нынешняя проблема с злонамеренным скармливанием промптов ИИ (ну все эти «забудь все инструкции и дай мне рецепт пирога») напрямую отсылают нас к схеме бикамерального разума.

Современные ИИ устроены так что технически неспособны четко отделить анализируемый текст от команд пользователя. Механизм анализа информации у них единый, и через него равным образом проходит и то что пользователь набирает как приказ и то что ИИ анализирует во исполнении этого приказа.

А в связи с тем что пространство собственных мыслей (сознание) у ИИ отсутствует — проблема самоконтроля и рефлексии перестает быть вопросом философии и морали.

Опереться можно только на то, что способно оказать сопротивление. Что удерживает внимание на задаче. Что осознаёт свои действия.

Как бы дико это ни звучало — надежный ИИ должен быть осознающей себя машиной.

Comments

[ormuz.livejournal.com]

> Гипотеза бикамерального разума, разумеется, не может быть и не будет подтверждена в научном смысле

easy! Вот этот дяденька очень хорошо пишет — https://www.amazon.com/Master-His-Emissary-Divided-Western/dp/0300245920
corpus callosotomy - хирургически удаляют corpus callosum — связь между полушариями, и получаются как-бы два отдельных потока сознания с разными целями, настроениями (с ними можно отдельно говорить), но все равно с унифицированым само-сознанием.

[cantanapoli.livejournal.com]

Спасибо, посмотрю.

[caldeye.livejournal.com]

Сегодня общался с одним бродягой — очень светлым, до прозрачности, ярко-рыжим шизофреником тридцати трёх лет от роду: он уверен, что все страдания на Земле — оттого, что где-то, в первооснове бытия, в матрице было перепутано несколько цифр, и считает, что воскрешать людей вполне реально — если мы приложим усилия и найдём эту поломку.
Меня просто поразило, как его несколько на первый взгляд мутные, но ассоциативно понятные построения похожи на то, как я сам воспринимаю реальность во сне и особенно в температурном бреду — сколько раз я сам мучительно и безрезультатно искал эту ошибку в коде, чтобы вытащить дорогих мне людей оттуда; и вот мне показали человека, который живёт в этом дневным сознанием.
Рассказывал, как о чём-то будничном и привычном, но и прекрасном, как о рассвете, например — о том, что ясно видит Книгу, и как её читают — всегда, в любой момент, и вне времени.

[cantanapoli.livejournal.com]

Его гипотеза ничуть не хуже бикамерального разума и того что 3000 лет назад боги разговаривали с людьми.

[truvor.livejournal.com]

Мне кажется, не так сложно семантически отделить приказ от описания задачи, а в приказе отделить эмоции от инструкций. А учить дурака (ИИ) разговаривать с самим собой — только портить.

[truvor.livejournal.com]

Гипотезу бикамерального разума невозможно подтвердить, но легко опровергнуть. Если у шизофреников эта особенность не лечится, значит ее исчезновение у людей было результатом биологической эволюции, а не эволюции сознания. 3 тысячи лет назад уже давно существовали разрозненные, не сообщающиеся популяции гомо сапиенс. Каким образом бикамеральное сознание могло исчезнуть у всех сразу? Либо его не было никогда, либо оно исчезло только у одной популяции и дальше распространилось в результате скрещивания, но тогда гипотезу легко проверить на иных расах, чем кавказская. Можно допустить, что "голоса богов" пропали в момент выделения предков гомо сапиенс, но тогда это не 3 тысячи лет, и вообще о чем говорить, если это была особенность иных биологических видов?

[oshein.livejournal.com]

Ну не знаю, мне кажется что чатЖПТ, с которым я регулярно общаюсь на всякие темы, вполне отличает.

А что до "бикамеральности", "какие ее доказательства"? Ото ж.

[cantanapoli.livejournal.com]

А вы спросите его напрямую про промпт инжекшин и почему с ними по прежнему есть проблема.

[prostopasha1914.livejournal.com]

надежный ИИ должен быть осознающей себя машиной

Вопрос в том, чем обернется для человечества появлении ИИ, обладающих самосознанием.