(no subject)

[cantanapoli]

Прочёл о забавном эксперименте - нейросетки тренировались Не на всем объёме текстов, а лишь на том что было опубликовано до определённого года.

То есть, скажем, такая сетка их 1975-го,скажем, будет демонстрировать все оттенки гомофобии и предубеждения по отношению к женщинам.

А та что из 1935-го - будет сдержанно оптимистична в отношении национал-социализма.

Comments

[prostopasha1914.livejournal.com]

Это естественно — ведь ИИ "бездушны", у них нет каких бы то ни было "моральных принципов". Поэтому, набирая базу знаний, скажем, на текстах времен Древнего Египта, они вполне положительно относились бы к рабству.

[grattoir.livejournal.com]

А при чем тут бездушность и моральные принципы? А если бы мы взяли детей и растили их в соответствующих условиях и на соответствующих текстах, они бы как-то морально сами по себе пришли бы к недопустимости рабства, важности равноправия и т.п. вещей? Что на входе, то и на выходе, очевидно.

У нас, вон, поколения людей, которых растили на советских текстах, к примеру, и которым вся дальнейшая жизнь абсолютно не помешала остаться насквозь советскими. Про Америку я вообще молчу, что они себе придумали там какой-то мифический Золотой Век Величия, при том, что их пропагандой на госуровне никто не пичкал. В нейросетках мы хотя бы уверены, что они будут принимать обновления и улучшаться, пусть и не всегда в очевидную сторону, будут реалировать на внешние раздражители.

[arzarra.livejournal.com]

Дело не в моральных принципах. Они — следствие. Они (принципы) и есть уже часть уровня культуры, субкультуры, контркультуры. От нейросетки намного более фундаментально человека отличает наличие внутреннего эмпатического "камертона" сочувствия.

Сначала всегда какая-то часть населения идёт "против течения", против "очевидного", вдалбливаемого текущей доминирующей культурой, формирует другую культуру. Потом она побеждает и просто переориентирует морально и эмпатически ленивое конформистское большинство на новый стандарт культуры.

Ещё аргумент. В нацистской Германии известны примеры открытых гитлеровцев, действовавших самым очевидным образом вопреки не только доминирующей культурной пропаганде, но и собственным убеждениям, как-то помогая евреям.

Человек всегда может отличить "добро от зла". Мешает ему лишь собственная лень поставить себя на место другого, посочувствовать. А потом страх — наказания, осуждения, одиночества.