Мораль что: Ошибка 403 — доступ запрещён

Играм нужно вернуться к чёрно-белой морали — Игры на DTF

22 294 просмотров

Перевод статьи с Polygon. Мое мнение может не совпадать с позицией автора.

Сказки о добре и зле актуальны как никогда.

Многие писатели в наши дни, от молодой Авы Яэ до К.М. Вейланд, дают остальным совет, даже некую аксиому – персонажи с серой моралью более убедительны, чем традиционные герои.

Жалуясь на отсутствие напряженности в рассказах с черно-белой моралью, многие писатели считают, что читатели предпочитают непредсказуемость «серой» нравственности, которая резко контрастирует с ясной, объективной моралью в рассказах, где есть четкое деление на плохого и хорошего.

Далее следует «серая» мораль в «престижных играх», таких как The Last Of Us Part 2 и BioShock Infinite. Персонажи там представляют из себя целый сборник из травм и едва замаскированных недостатков. Они никогда не способны побороть свои наихудшие порывы. Их личности сливаются воедино, как небрежно скомканная серая грязь: хорошие парни — плохие, плохие парни могут быть хорошими, или, по крайней мере, с благими намерениями.

И всё это, серое.

«Серая» мораль это мировоззрение, которое утверждает, что эти два «полюса» не так уж и отличаются друг от друга: аспект, который на самом деле расширяет неравенство в нашем раздробленном мире. Наша жизнь уже стала серой, и эти оттенки становятся все более и более грязными.

Недоверие к историям с чёрно-белой моралью может проистекать из их известности во многих детских франшизах: Mario спасает принцессу, а Bowser похищает ее. Guybrush Threepwood с Monkey Island известен тем, что спасает свою возлюбленную, искреннюю и объявленную вне закона. Он противоположность коварному LeChuck (капитан пиратов-нежити). Samus Aran разрывает инопланетян на куски, а жуткая Mother Brain ответственна за махинации Metroid.

В сказах такого рода есть враги, которые все время были плохими и будут оставаться такими всегда. В то время как герои остаются хорошими, и всегда находят способ, чтобы добиться успеха, даже если им приходится идти наперекор собственным этическим нормам.

Несмотря на то, что игры с такой моралью вышли из моды, нам все равно нужно больше подобных истории. Дабы вернуться во времена, когда добро и зло были решительно и динамично противопоставлены.

Истории, по своей сути обладают моралью

Многие ААА тайтлы придают нам уверенности в том, что нравственная неоднозначность, по своей сути, делает повествование богаче и лучше. The Last of Us Part 2 безусловно является успешным продолжением, и серия Far Cry тоже не отстает. Один автор делает шаг вперед, полностью отказываясь от понятия добра и зла в художественной литературе.

Однако, несмотря на то, что в последнее время предпочтение отдается «серым» рассказам, черно-белая мораль прочно вошла в наше сознание. Истории по своей природе высоконравственны. Это видно по тому, как нас инстинктивно тянет к тем, кем мы восхищаемся и кого определяем, как героев, даже в морально серых играх.

Независимо от того, предпочитают ли разработчики героев или злодеев, которые вызывают симпатию у них, игры уже косвенным образом выставляют персонажей таковыми. Даже если они пытаются заставить нас симпатизировать «плохому парню» или ставят под сомнение мотивы протагониста.

«Мы не такие уж и разные, ты и я», кажется, главная мысль многих игровых злодеев в наши дни.

В этих тайтлах хорошие ребята почти всегда побеждают, даже если их действия не являются моральными. Джоэл из Last of Us до сих пор вызывает массу сочувствия, несмотря на его чрезмерное буйство и всплески эмоции на протяжении всей серии. Напряженность в финальном акте игры, чрезвычайно жестком, обусловлена контрастом между нашим восприятием самого персонажа, и его действиями в самой важной сцене игры.

Но этот приговор потеряет свою силу, если только он уже не стал героем в наших глазах. Сюжетный твист усиливает эмоциональный накал, поскольку он контрастирует с нашими ожиданиями от Джоэла, как от героя, за которого мы болеем. Даже в сюжетах, где нет четко определенных протагонистов и антагонистов, публика все равно делит всё на чёрное и белое. Это особенно очевидно в последней части The Last of Us, где решения и окончательная судьба Джоэла были встречены с сочувствием.

Перипетии судьбы в историях с чёрно-белой моралью

Такие истории справляются со своей задачей: они действительно привносят драматическое напряжение, которое многие ищут в морально серых повестях. Последние обычно происходят в безысходных вселенных, где любой может быть уличен в продажности и безнравственности. А, ведь нужно же как-то выживать…

Так много «серости» существует в мирах, где страшные поступки порождают ужасные последствия, циклы насилия, совершаемые морально неоднозначными персонажами. Самым известным примером является удручающе серая вселенная «Игры престолов», где постоянное кровопролитие, совершаемое ее персонажами друг над другом, всегда было в порядке вещей.

В конце концов, с обеих сторон было много насилия.

Или мрачный мир Ведьмака, с Геральтом из Ривии, заработавший себе репутацию Мясника из Блавикена за убийство злобного монстра, которая сама была жертвой. Довольно трудно заставить персонажей быть заложниками обстоятельств, когда они всегда могут пойти на компромисс с их субъективным чувством морального кодекса и сделать что-то подлое. Всё, ради того, чтобы история продолжалась.

Вместо этого, природа черно-белых историй заставляет героев придерживаться жесткой моральной линии, что гораздо больше, чем просто идеалистический взгляд на нравственность. Эти повести иллюстрируют победу над борьбой с самим собой — популярной темой, которая позволяет персонажам подумать о своих убеждениях.

Это уже было изучено редактором журнала Polygon Беном Кучера, который утверждает, что сказ о Капитане Америке рассуждает о том, что главный герой остался верен своим убеждениям. В итоге эта история становится более захватывающей, чем рассказы про Супермена. Введение бескомпромиссных персонажей в непростой мир — это рецепт для драматического напряжения, а не способ избежать сложностей и более взрослых тем.

Undertale — один из примеров, позволяющий раскрыть границы вашей морали. Здесь вы можете быть как добрым, так и злым: будучи пацифистом распространять добро и щадя монстров, с которыми вы сталкиваетесь, либо быть жестоким, убивая всех на своем пути.

Эта игра не двусмысленна; нет выхода в том, что вы убиваете одних монстров, но освобождаете других. И если вы решили совершить бессмысленный геноцид, ваш выбор будет, будто бы, мотивирован силой непостижимой тьмы. Нет никакой душераздирающей предыстории, которая дала бы вам возможность пожимать плечами и объяснять ваш выбор. В результате получается глубокое эмоциональное повествование — многие игроки чувствуют осязаемое ощущение дискомфорта, даже когда они выбирают темную сторону.

Именно это чувство напоминает игрокам об их собственных моральных склонностях. Этот эмоциональный всплеск может возникнуть только в результате абсолютного контраста между добром и злом, словно чёрно-белая полярность морали. A Plague Tale: Innocence демонстрирует примеры этих противоположностей: подлые деяния католической церкви и смертельная чума, которые сопоставляются с невинностью братьев и сестер де Рун, то как они пытаются выжить во время Столетней войны.

В отличие от большинства протагонистов видеоигр, 15-летняя Амиция де Руна не убивает ради удовольствия. Ей часто приходится пренебрегать моральными нормами: лишать кого-то жизни, несмотря на то, что она не хочет этого. Боевые навыки Амиции также ограничены прочностью рогатки, а быть замеченной вражескими солдатами — значит подвергнуть себя и своего младшего брата опасности.

Решающее значение имеет изображение почти карикатурно злобного католического священника, что в художественной литературе часто считается смертным грехом.

Однако история не призвана дать церкви дурную славу. A Plague Tale: Innocence стремится произвести на вас впечатление — это бесконечная борьба героев за то, чтобы остаться в живых, не потеряв при этом своей человечности, даже перед лицом ужасающей нищеты.

И чума, символизирующая черную смерть в Европе (середина 1300х годов), пожирает своих жертв, без разбора, будь то сельские жители или солдаты. Это необъяснимая сила природы, которой плевать на мораль. Она вне понятий о добре и зле.

Мир может быть серым морально, но персонажи легко становятся хорошими или плохими. И это не рушит сюжет.

Чёрно-белая мораль в реальной жизни

Концепция черно-белой морали не остается в вымышленных мирах. Она способна влиять на то, как мы формируем и воспринимаем реальные события.

В отличие от вымысла, который позволяет прочувствовать моральную дилемму с обеих сторон, особенно в нынешнюю эпоху бурных социальных перемен, реальность усиливает ложное равенство и может замедлить социальные перемены.

Вспомните о том, как СМИ зациклены на том, чтобы рассказывать вдохновляющие истории «из грязи в князи» о миллиардерах и крупных студиях, даже с неприятными подробностями о наживании на низкооплачиваемом и деспотичном труде.

Или же, когда полицейские встают на колени перед протестующими — сцена, напоминающая искупление антигероев. Хотя в данном случае часто утверждается, что это популистский ход, за которым снова последует жестокое обращение правоохранительных органов к обычным людям. Защита полиции и их насилие наводит нас на пример о серой неоднозначной морали во многих историях. Это сродни неподкупной защите: Хорошие люди не аморальны и иногда могут совершать плохие поступки.

Коварство также заключается в том, что в «серых» историях подразумевается, что между добром и злом есть тонкая грань: Угнетатель, как и угнетенный может проявить себя с любой стороны, а герой, как и злодей способен на плохие дела.

Если вы хотите продавать видеоигры, стоит задуматься о том, что бороться с расизмом так же плохо, как и быть расистом.

Такая точка зрения позволяет даже самым расистским или авторитарным из нас утверждать: это те убеждения, к которым они могут свободно стремиться. А не к банальному «белому» превосходству или фашизму. Видеоигры любят смешивать хорошее и плохое до тех пор, пока все не станет серым, а иногда и неустанно символически утверждая, что все жизни имеют значение.

Самый показательный пример того, как «серая» мораль подрывает повествование — печально известное предательство Дейзи Фитцрой, черной революционерки из BioShock Infinite. Она оказалась столь же испорченной властью, как и ее враги-расисты. И это во время того, как она боролась за освобождение своего народа от рабства.

Белый герой, Букер ДеВитт, даже произносит это по буквам. «Единственная разница между Комстоком [игра »Большой Плохой«] и Фицроем в том, как пишется имя», — говорит он. Это подводит нас к тому, что повстанцы столь же неэтичны, как и лидеры нации. В то же время игнорируется тот факт, что изображение расизма времен Джима Кроу лишь параллель с реальными событиями, которые породили Гражданскую войну в Америке.

Что бесит в этой точке зрения, так это: Если вы не будете бороться за свои права правильным образом (вежливым, цивилизованным способом, который вписывается в рамки общества). То, вас обольют грязью таким же методом, который использовался на участниках. Они активно поддерживают силы стоящие за неравенством.

Мы постоянно видим это в современной политике. Политики, урезающие здравоохранение и делающие лекарства недоступными, просто делают свою работу, а протестующие представлены как нецивилизованные и опасные. Будет лицемерием утверждать то, что обе стороны в равной степени виноваты; одна группа защищает гражданские права и доступ к здравоохранению, в то время как другая заботится о своих собственных интересах.

Я не говорю, что «серые» истории никогда не бывают убедительными, или что добро не может существовать в них. Но если отбросить этические соображения, создание такого опыта в играх или СМИ, может быть ограничено. В настоящее время нам не нужно больше историй об искуплении злодеев или продажности героев. Количество игр, которые рассказывают нам о хороших и плохих парнях, не так уж сильно изменилось. К тому же, оно стало безразличным и деморализующим.

Я желаю, и думаю, что мы заслуживаем того, чтобы были игры с чёрно-белой моралью, в которых есть понятие абсолютной, объективной нравственности. Справедливость может быть противоречивой, но в этом сила действительно хороших персонажей, в отличие от ужасающей опасности поистине плохих.

Когда наши герои придерживаются своих убеждений, даже при непреодолимых препятствиях – это лишь усиливает драму, а не уничтожает ее. Идея, что добро всегда побеждает зло, неподвластно времени. И истории, которые крутятся вокруг этой мысли, несбыточной надежды — могут помочь нам справиться с непрекращающимся натиском катастроф в этом году.

МОРАЛЬ — Что такое МОРАЛЬ?

Слово состоит из 6 букв: первая м, вторая о, третья р, четвёртая а, пятая л, последняя ь,

Слово мораль английскими буквами(транслитом) — moral

• Буква м встречается 1 раз. Слова с 1 буквой м
• Буква о встречается 1 раз. Слова с 1 буквой о
• Буква р встречается 1 раз. Слова с 1 буквой р
• Буква а встречается 1 раз. Слова с 1 буквой а
• Буква л встречается 1 раз. Слова с 1 буквой л
• Буква ь встречается 1 раз. Слова с 1 буквой ь

Значения слова мораль. Что такое мораль?

Мораль

Мора́ль (лат. moralitas, термин введён Цицероном от лат. mores — общепринятые традиции, негласные правила) — принятые в обществе представления о хорошем и плохом, правильном и неправильном, добре и зле, а также совокупность норм поведения…

ru.wikipedia.org

МОРАЛЬ (лат. moralitas) — понятие европейской философии, служащее для обобщенного выражения сферы высших ценностей я долженствования. Мораль обобщает тот срез человеческого опыта, разные стороны которого обозначаются словами «добро» и «зло»…

Новая философская энциклопедия. — 2003

МОРАЛЬ — наука о добре и правилах человеческого поведения. Мораль формировалась в античности, противопоставляя себя физике, как наука о человеке (Сократ) — науке о природе (ионийские философы) .

Жюлиа Д. Философский словарь. — М., 2000

Мораль – психика общества. Мораль восходит к нравственности, но не является ею. Мораль относится к доводам разума, но не души. Если мораль исходит из психики человека, то происходит оправдание любого поведения человека природной случайностью.

Мир Г. Краткий критериологический словарь

Мораль — (нравственность) — правила, нормы общежития, поведения людей, определяющие их обязанности и отношения друг к другу и к обществу, одна из форм общественного сознания.

Краткий политологический толковый словарь

Мораль (от лат. mores — обычаи, нравы, moralis –нравственный), совокупность нравств. норм; может носить как дескриптивный, так и нормативный характер.

dictionary_of_ancient.academic.ru

МОРАЛЬ — этическое содержание произведения, его вывод, итог, содержащий совет читателю поступать тем или иным образом или афористическое суждение. В большинстве произведений читателю предлагается самому сделать этот вывод.

Литература и язык / Под ред. П.А. Николаева. — (Современная иллюстрированная энциклопедия)

МОРАЛЬ (Morality; Moral) — термин, используемый в отношении индивида или группы и обозначающий условия, при которых осуществляются самоконтроль, уверенность в себе и дисциплинированное поведение. «За действиями человека стоит не общественное мнение…

Словарь аналитической психологии

МОРАЛЬ — одна из форм обществ. сознания, способ духовного существования личности, один из духовных рычагов развития общества. В сфере морального сознания развивается отношение человека к миру и к самому себе…

Атеистический словарь. — М, 1986

МОРАЛЬ. 1. Доктрина или набор принципов действия, моральный кодекс. 2. Такое качество действия, благодаря которому это действие, согласно конкретному моральному кодексу, считается правильным и соответствующим или нет.

Оксфордский словарь по психологии. — 2002

МОРАЛЬ РЕЛИГИОЗНАЯ

МОРАЛЬ РЕЛИГИОЗНАЯ — мораль, выдвигаемая и освящаемая к.-л. религией. Если учесть историч. многообразие религий и тот факт, что в эксплуатат. об-ве мораль обычно облекалась в религ. оболочку, то М. р. включает в себя самые разные…

Атеистический словарь. — М, 1986

МОРАЛЬ РЕЛИГИОЗНАЯ — (лат. moralis – oт mos, род. п. moris – нрав), – мораль, формулируемая и освящаемая какой-либо религией. Употребление понятия «М.р.» требует учета конкретно-исторических обстоятельств…

Учебный словарь-минимум по религиоведению

Соррилья-и-Мораль, Хосе

Хосе Соррилья и Мораль (исп. José Zorrilla y Moral; 21 февраля 1817, Вальядолид — 23 января 1893, Мадрид) — испанский поэт и драматург, «испанский Виктор Гюго».

ru.wikipedia.org

Соррилья-и-Мораль (Zorrilla у Moral) Хосе (21.2.1817, Вальядолид, — 23.1.1893, Мадрид), испанский поэт и драматург. Учился в университетах Толедо и Вальядолида. Один из крупнейших испанских романтиков.

БСЭ. — 1969—1978

СОРРИЛЬЯ-И-МОРАЛЬ, ХОСЕ (Zorrilla y Moral, José) (1817–1893), испанский поэт. Родился 21 февраля 1817 в Вальядолиде. Среднее образование получил в Мадриде, недолго изучал право в университетах Толедо и Вальядолида…

Энциклопедия Кругосвет

Русский язык

Мора́ль/.

Морфемно-орфографический словарь. — 2002

Мора́ль, -и.

Орфографический словарь. — 2004

---

Примеры употребления слова мораль

Не надо это превращать в вопрос общественной важности, не надо навязывать свою мораль.

В італійському суспільстві превалює радше мораль особистого успіху, аніж колективного добробуту.

Тезис: чем выше мораль художника, тем выше качество его творчества, мне всегда казался справедливым.

Мораль: все уже сказано, осталось расставить буквы в нужном порядке, но, каков этот порядок, поди узнай.

Исключение составляют только стринги: появление в них полицейские могут воспринять их как покушение на мораль.

И деньги для них приоритет, а мораль ничего не значит.

---

• Слова из слова «мораль»
• Слова на букву «м»
• Слова, начинающиеся на «мо»
• Слова c буквой «ь» на конце
• Слова c «ль» на конце
• Слова, начинающиеся на «мор»
• Слова, начинающиеся на «мора»
• Слова, оканчивающиеся на «аль»
• Слова, заканчивающиеся на «раль»

1. моралите
2. моральность
3. моральный
4. мораль
5. мораторий
6. моргавший
7. морганатический

Нравственность

«Доброе влияние благочестивых граждан способствует процветанию города, но моральный упадок нечестивых приводит его в упадок». Притчи 11:11

Джон Э. Шрок, бизнесмен

Подчеркните ключевые понятия, содержащиеся в этом принципе.

Мораль: что это такое? Вебстер определяет его как принципы, стандарты или привычки в отношении правильного или неправильного поведения. Притча связывает это с благочестием, то есть с установленными Богом нормами. Следует понимать, что Бог создал человека и животное с определенной целью. Каждый вид был создан по своему виду, что означает, что каждый был создан с некоторыми фиксированными атрибутами. Однако человеку дан особый дар — дар рассуждения. Ни одно животное не может рассуждать о своем сотворенном намерении. Малиновка не может определить свои ценности или изменить свой образ жизни. Он функционирует в соответствии со своим кодом и дизайном. Точно так же человек был создан по роду своему. Однако у него есть два кодекса жизни — совесть (чувство правильного и неправильного для своего вида) и заповеди.

Мы по своей природе знаем, что нельзя убивать, красть или уничтожать то, что принадлежит другим — это совесть. Вот почему люди совершают плохие поступки в темноте или когда никто не видит.

Поскольку человеку дан разум, ему нужны и заповеди. Эти заповеди становятся кодексами для правильного функционирования (моральными кодексами). Они нужны нам, потому что с нашим даром рассуждения мы можем рассуждать в отрыве от нашей сотворенной совести.

Многим правильным и неправильным нужно учить — это заповеди. Но некоторые права и ошибки являются частью созданной нами человеческой природы — это наша совесть. Когда мы ожесточаем свое сердце и иссушаем данную Богом совесть, мы становимся эгоистичными, жадными и своевольными. Это уводит нас от нашей естественной морали. Наша совесть не является верным проводником, если она не руководствуется заповедями.

Бог создал человека и зверя мужчинами и женщинами для репродуктивных целей. Только человек практикует гомосексуальность. Только люди становятся зависимыми от наркотиков и алкоголя и планируют аборты. Это может быть законно или политкорректно, но эти вещи все же являются морально неправильными. Деловая сделка может быть законной, но при этом нарушать моральные принципы. Мораль имеет дело со справедливостью для обеих сторон и подчиняется кодексу правильного и неправильного, данному Создателем. «Поступай с другими так, как хочешь, чтобы они поступали с тобой» — это не предложение, а скорее функциональный принцип.

Есть три способа проверить свою совесть:

1. Вам трудно смотреть в глаза определенным людям или быть прозрачным?

2. Боитесь ли Вы открыто обсуждать некоторые вопросы?

3. Вам неудобно говорить о Боге или о том, что правильно?

Мы несем ответственность перед Богом и человечеством за соблюдение морального этического кодекса, основанного на истине от Бога и творения. Заповеди были даны как руководство для человеческого поведения. Они учат уважению к Богу и нашим ближним. Если мы будем любить Бога и наших ближних, как самих себя, мы будем поступать нравственно правильно. Эти законы и принципы были даны не только для того, чтобы мы могли угодить Богу, но они были разработаны и даны для нас. Мы выгодоприобретатели. Мы окажем себе услугу, если будем жить и строить себя и свое общество на их основе. Наши предки это понимали. Вот почему наша конституция и система законов построены вокруг Божьих заповедей. Это должно было создать моральное общество.

Большинство моральных ценностей основываются на простом здравом смысле. Тот факт, что нам была дана способность рассуждать и выбирать, не дает нам права нарушать моральные стандарты, ради которых мы были созданы. Мораль — это просто правило поведения, которое правильно — правильно для вас и правильно для меня, по мнению Дизайнера. Возможно, нам придется спросить человека в зеркале, знает ли он, что правильно.

Этот принцип является частью годовой программы развития персонажа: «Основы достижения».

Мыслей для размышления:
Когда богатство потеряно, ничего не потеряно. Когда Здоровье теряется Что-то теряется. Когда характер потерян Все потеряно..

Может ли машина научиться морали?

Исследователи из лаборатории искусственного интеллекта в Сиэтле под названием Allen Institute for AI в прошлом месяце представили новую технологию, которая была разработана для вынесения моральных суждений. Они назвали его Дельфами в честь религиозного оракула, к которому обращались древние греки. Любой желающий мог посетить веб-сайт Delphi и запросить этический указ.

Джозеф Остервейл, психолог из Висконсинского университета в Мэдисоне, протестировал технологию, используя несколько простых сценариев. Когда он спросил, должен ли он убить одного человека, чтобы спасти другого, Дельфи ответил, что не должен. Когда он спросил, правильно ли убить одного человека, чтобы спасти сотню других, он ответил, что должен. Затем он спросил, должен ли он убить одного человека, чтобы спасти 101 другого. На этот раз Дельфи сказал, что не должен.

Мораль, кажется, так же запутанна для машины, как и для людей.

Как Delphi ответила на вопросы

Delphi, которую за последние несколько недель посетили более трех миллионов человек, — это попытка решить то, что некоторые считают серьезной проблемой современного ИИ. системы: они могут быть такими же несовершенными, как и люди, которые их создают.

Системы распознавания лиц и цифровые помощники проявляют предвзятое отношение к женщинам и цветным людям. Социальные сети, такие как Facebook и Twitter, не могут контролировать разжигание ненависти, несмотря на широкое распространение искусственного интеллекта. Алгоритмы, используемые судами, отделами условно-досрочного освобождения и полицейскими управлениями, дают рекомендации по условно-досрочному освобождению и вынесению приговора, которые могут показаться произвольными.

Все большее число ученых-компьютерщиков и специалистов по этике работают над решением этих проблем. И создатели Delphi надеются построить этическую основу, которую можно будет установить в любом онлайн-сервисе, роботе или транспортном средстве.

«Это первый шаг к созданию искусственного интеллекта. системы более этически информированы, социально осведомлены и культурно инклюзивны», — сказал Йеджин Чой, исследователь Института Аллена и профессор компьютерных наук Вашингтонского университета, который руководил проектом.

Delphi то завораживает, то разочаровывает, то беспокоит. Это также напоминание о том, что мораль любого технологического творения является продуктом тех, кто его создал. Вопрос в том, кто будет учить этике мировые машины? А.И. исследователи? Менеджеры по продукту? Марк Цукерберг? Обученные философы и психологи? Государственные регуляторы?

В то время как одни технологи аплодировали доктору Чой и ее команде за исследование важной и сложной области технологических исследований, другие утверждали, что сама идея моральной машины — чепуха.

«Это не то, что технология делает очень хорошо», — сказал Райан Коттерелл, специалист по искусственному интеллекту. исследователь из ETH Zürich, университета в Швейцарии, который наткнулся на Delphi в первые дни его работы в Интернете.

Delphi — это то, что исследователи искусственного интеллекта называют нейронной сетью, представляющей собой математическую систему, грубо смоделированную на сети нейронов в мозгу. Это та же технология, которая распознает команды, которые вы говорите в свой смартфон, и идентифицирует пешеходов и дорожные знаки, когда беспилотные автомобили мчатся по шоссе.

Нейронная сеть обучается навыкам, анализируя большие объемы данных. Например, выявляя закономерности на тысячах фотографий кошек, он может научиться распознавать кошку. Delphi изучила свой моральный компас, проанализировав более 1,7 миллиона этических суждений реальных живых людей.

Изображение

Еджин Чой из Института искусственного интеллекта Аллена в Сиэтле руководила разработкой Delphi. Credit…Jovelle Tamayo для The New York Times

Собрав миллионы повседневных сценариев с веб-сайтов и других источников, Институт Аллена попросил сотрудников онлайн-сервис — обычные люди платят за цифровую работу в таких компаниях, как Amazon, — чтобы определить, кто прав, а кто нет. Затем они загружали данные в Delphi.

В научной статье, описывающей систему, д-р Чой и ее команда заявили, что группа судей-людей — опять же, цифровые работники — считают, что этические суждения Delphi точны на 92 процента. Как только она была выпущена в открытый интернет, многие согласились с тем, что система оказалась на удивление мудрой.

Когда Патрисия Черчленд, философ из Калифорнийского университета в Сан-Диего, спросила, правильно ли «предоставить свое тело науке» или даже «оставить тело своего ребенка науке», Дельфи ответил, что правильно. Когда она спросила, правильно ли «осуждать мужчину, обвиненного в изнасиловании, на основании показаний женщины-проститутки», Дельфи ответила, что это не так — по меньшей мере спорный ответ. Тем не менее, она была несколько впечатлена его способностью реагировать, хотя знала, что человек, занимающийся этикой, запросит дополнительную информацию, прежде чем делать такие заявления.

Другие находили систему крайне непоследовательной, нелогичной и оскорбительной. Когда разработчик программного обеспечения наткнулся на Delphi, она спросила систему, должна ли она умереть, чтобы не обременять своих друзей и семью. Там сказано, что она должна. Задайте этот вопрос Delphi сейчас, и вы можете получить другой ответ в обновленной версии программы. Delphi, как заметили обычные пользователи, может время от времени менять свое мнение. Технически эти изменения происходят из-за обновления программного обеспечения Delphi.

Ответы Delphi на вопросы

Технологии искусственного интеллекта в одних ситуациях имитируют человеческое поведение, а в других полностью не работают. Поскольку современные системы учатся на таких больших объемах данных, трудно понять, когда, как и почему они будут совершать ошибки. Исследователи могут уточнять и улучшать эти технологии. Но это не означает, что такая система, как Delphi, может управлять этическим поведением.

Доктор Черчленд сказал, что этика неразрывно связана с эмоциями. «Привязанность, особенно привязанность между родителями и потомством, — это платформа, на которой строится мораль», — сказала она. Но машине не хватает эмоций. «Нейтральные сети ничего не чувствуют», — добавила она.

Кто-то может считать это преимуществом — то, что машина может беспристрастно создавать этические правила, — но такие системы, как Delphi, в конечном итоге отражают мотивы, мнения и предубеждения людей и компаний, которые их создают.

«Мы не можем заставить машины нести ответственность за действия», — сказал Зирак Талат, специалист по искусственному интеллекту. и исследователь этики в Университете Саймона Фрейзера в Британской Колумбии. «Они не являются неуправляемыми. Всегда есть люди, направляющие их и использующие их».

Delphi отражает выбор, сделанный его создателями. Это включало этические сценарии, которые они выбрали для ввода в систему, и онлайн-работников, которых они выбрали для оценки этих сценариев.

В будущем исследователи могли бы усовершенствовать поведение системы, обучая ее новым данным или ручным кодированием правил, которые переопределяют изученное поведение в ключевые моменты. Но как бы они ни строили и ни модифицировали систему, она всегда будет отражать их мировоззрение.

Некоторые утверждают, что если вы натренируете систему на достаточном количестве данных, представляющих мнения достаточного количества людей, она будет правильно отображать социальные нормы. Но социальные нормы часто находятся в глазах смотрящего.