Почему технологии усугубили расовую несправедливость и как это исправить

37

Руха Бенджамин делится исследованиями из своей книги «Гонка за технологиями», как часть нашей серии «Что теперь?»

Сегодня, месяц назад, Джордж Флойд был убит, когда полиция Миннеаполиса предложила поставить его колено на шею Флойду на 8 минут и 46 секунд, пока Флойд умолял его не дышать. Это привело к глобальному протесту людей, сообществ и правительств по пересмотру давних проблем расовой несправедливости. И техническое сообщество должно сыграть свою роль.

Технологическая индустрия часто основывается на идее, что наука и техника могут решить многие из самых больших проблем человечества и преодолеть давние препятствия на пути прогресса. В последние годы это повествование подвергалось сомнению, поскольку такие системы, как искусственный интеллект и распознавание лиц , усиливали расовую пропасть и усугубляли проблему.

Мы исследуем влияние технологий на расовые отношения с Рухой Бенджамином, профессором афроамериканских исследований в Принстонском университете и автором книги « Гонка после технологии» . Бенджамин — социолог, специализирующийся на технологиях, и она дает уникальный взгляд на влияние технологий на расовые отношения.

Мы говорили о том, где технологии ухудшают ситуацию, когда речь идет о расе и социальной справедливости в Америке. Это включает в себя системы распознавания лиц, которые дают ложные срабатывания цветным людям в 10-100 раз больше, чем кавказцам, согласно исследованию правительства США . Он также включает системы найма, которые предназначены для автоматического отбора кандидатов, но в конечном итоге усиливают существующие подразделения и предубеждения.

Мы также говорили о том, как люди цвета уже давно предлагают альтернативный рассказ о влиянии технологий на общество. Мартин Лютер Кинг-младший однажды предупредил: «Когда научная сила превосходит моральную силу, мы в конечном итоге получаем управляемые ракеты и дезинформированных людей».

У Бенджамина есть положительные рецепты того, как мы можем лучше спроектировать системы будущего, чтобы преодолеть нынешнюю несправедливость.

«Нам нужно посмотреть, кто на самом деле разрабатывает технологию и в какой структуре стимулирования [и] какой экосистеме», — говорит Бенджамин. «Дело в том, что большая часть нашей технологии разрабатывается и задумывается небольшим кусочком человечества, и этот кусочек человечества проецирует на всех остальных свое видение хорошей жизни».

Руха Бенджамин — профессор афроамериканских исследований в Принстонском университете и автор книги «Гонка после технологи»

Сегодняшняя панацея в сфере технологий — диверсификация рабочей силы, и компании ставят перед собой агрессивные цели по преобразованию. Бенджамин утверждает, что этого будет недостаточно, чтобы привести к значительным изменениям. Нам нужно «не только рассмотреть вопрос о диверсификации, кто стоит за экраном», — говорит Бенджамин.

«Это важно, но этого недостаточно, потому что, если экосистема останется прежней, — говорит она, — если контекст и структура стимулов, в которых эта разнородная рабочая сила развивает технологии, остаются прежними, — когда императив прибыли превосходит другие виды общественности товары — тогда у вас может быть столько разнообразной рабочей силы, сколько вы захотите, и у вас все еще будут проблемы, с которыми мы сталкиваемся сегодня ».

Как социолог, часть внимания Бенджамина была сосредоточена на концепции «дискриминационного дизайна». В своем выступлении на TED Talk 2015 года Бенджамин сказала: «В основе дискриминационного дизайна лежит идея о том, что мы можем создавать технологические решения для социальных кризисов … Вместо того, чтобы иметь дело с базовыми условиями, мы создаем краткосрочные ответы, которые выявляют проблему из виду, с ума. »

Какую роль играют технологии в нашей жизни

Призыв Бенджамина состоит в том, чтобы заставить индустрию технологий и общество в целом задуматься о том, какую роль играют технологии в нашей жизни и в современных сообществах, которые мы строим.

«Часть того, о чем я хочу, чтобы мы думали, заключается не только в том, чтобы сосредоточить наше внимание на создании более совершенных технологий, которые были бы менее предвзятыми, которые работают лучше, но и на рассмотрении всей экосистемы», — говорит она. «Что это значит для развития технологий в общественных интересах, для общественного блага, а не только в риторике … Я имею в виду буквально в структуре стимулов, в экономическом и социальном управлении технологией — что мы создаем экосистему, которая не полагается на благие намерения отдельного дизайнера. »

Чтобы узнать больше о взглядах Бенджамина на то, как изменить курс на влияние технологий на расовую несправедливость, ознакомьтесь с ее книгой « Гонка за технологиями» .

5 3 votes
Рейтинг
Подписаться
Уведомление о
guest
0 Комментарий
Inline Feedbacks
View all comments