Лайфхакер
Лайфхакер
Лучшее
Рубрики
Рецепты
Подкасты
Сервисы
Колонки
Лучшее
Рубрики
Рецепты
Подкасты
Сервисы
Колонки
Сколько дней до лета
Новости
Здоровье
Спорт и фитнес
Покупки
Технологии
Отношения
Кино
Реклама
Жизнь
24 сентября 2017

Почему пора перестать слепо верить в big data

Сейчас алгоритмы решают, кому одобрить займ, кто получит страховку или приглашение на собеседование, но часто они делают это несправедливо. И это только увеличивает разрыв между слоями населения.
Фото автора Елена Евстафьева
Елена Евстафьева

Почему пора перестать слепо верить в big data

Кэти О'Нил (Cathy O'Neil)

Математик, специалист по анализу финансовых рынков, автор книги «Оружие математического поражения».

Чтобы построить алгоритм, нужны две вещи: данные (что произошло в прошлом) и определение успешного результата (что вы хотите найти с помощью этого алгоритма). Затем он определяет, какие критерии приводят к успешному результату. Но ведь определение успеха не может быть универсальным.

Алгоритм — это чьё-то мнение, встроенное в код.

Мы привыкли думать, что алгоритмы объективны и достоверны, но это только маркетинговый трюк, призванный запугать нас и вызвать у нас доверие к алгоритмам и математическим данным.

О’Нил приводит примеры, когда алгоритмы могут нанести серьёзный вред. Так происходит при оценке сотрудников. К примеру, в 2011 году в школьном округе Вашингтона было уволено более 200 учителей после того, как их отсеял алгоритм, хотя у них были отличные рекомендации от родителей и коллег.

Кроме того, алгоритмы часто оказываются причиной вынесения предвзятых приговоров. Новостная организация ProPublica недавно проводила расследование и обнаружила, что алгоритмы, определяющие риск рецидивизма, работают не объективно. При одинаковых преступлениях приговоры чаще выносятся чернокожим американцам.

Все мы подвержены предубеждениям, и мы привносим их в алгоритмы, когда решаем, какие данные нужно учитывать.

Алгоритмы просто повторяют наши прошлые ошибки, автоматизируют существующий порядок. Поэтому мы не можем слепо доверять им, мы должны проверять их на объективность: заново обдумать определение успешного результата, ошибки, от которых не застрахован ни один алгоритм. Как часто они происходят и кого затрагивают? Какова цена таких ошибок?

Специалисты, работающие с данными, не должны быть вершителями справедливости. Пора перестать слепо верить большим данным.

Источник: The era of blind faith in big data must end
Если нашли ошибку, выделите текст и нажмите Ctrl + Enter

Лучшие предложения

15 товаров с хорошими скидками на распродаже AliExpress

Сейчас со скидкой: 15 разных товаров для комфортной жизни

Дрель-шуруповёрт от PATUOPRO

Недорогая дрель-шуруповёрт стала ещё дешевле на AliExpress

48 необходимых товаров с AliExpress для любителей рыбалки

48 необходимых товаров с AliExpress для любителей рыбалки

Надо брать: бюджетный 55-дюймовый телевизор с восторженными отзывами

Надо брать: бюджетный 55-дюймовый телевизор с восторженными отзывами

Внешний аккумулятор от Baseus

Забираем со скидкой 60% внешний аккумулятор от Baseus с двумя кабелями

10 хороших кроссовок для тех, кому не терпится выйти на пробежку

10 хороших кроссовок для тех, кому не терпится выйти на пробежку

Экономим до 50% на «Яндекс Маркете» с бесплатной картой от ВТБ

Экономим до 50% на «Яндекс Маркете» с бесплатной картой от ВТБ

Саундбар Ultimea Poseidon M60 Boom

Саундбар для телевизора от Ultimea отдают со скидкой 57% на AliExpress

Это интересно
Куда поехать за классным сувениром: 7 точек Золотого кольца с удивительными народными промыслами

Куда поехать за классным сувениром: 7 точек Золотого кольца с удивительными народными промыслами

Где отдохнуть от городской суеты: 5 национальных парков России для весеннего отпуска

Где отдохнуть от городской суеты: 5 национальных парков России для весеннего отпуска

3 кухонных прибора, которые помогут прокачать ваши кулинарные способности

3 кухонных прибора, которые помогут прокачать ваши кулинарные способности

Что такое «Тирзетта» и как она работает

Что такое «Тирзетта» и как она работает

Комментарии
Олег Залялов
24.09.17 23:42
Слепо верить вообще ни во что не надо было начинать. А статья какая-то невнятная.
Антон Афанасьев
25.09.17 07:24
Позвольте, господа и дамы. Во-первых, речь скорее о Machine learning или Data mining, а не о big data. Это видимо, подразумевается, так как проводить машинное обучение эффективнее на больших данных. Во-вторых, фраза "Все мы подвержены предубеждениям, и мы привносим их в алгоритмы, когда решаем, какие данные нужно учитывать" довольно странная, потому что при обучении берут много-много критериев и в процессе построения модели часть может отсеяться, но не по субъективным причинам, а по объективным цифрам, которые характеризуют значимость критерия. Другое дело, что исходные данные могут быть не эффективными. Не всё можно загнать в цифры. Ту же эмпатию и внимательность к ученикам. В общем, название статьи хорошее, а содержание мутное.
Roman Pravuk
25.09.17 09:39
Не факт что речь идет о ML. Скорее всего о BigData, поскольку обсуждаётся одни из типовых задач BigData
Что вы могли пропустить
Что на самом деле значит «наслаждаться каждым днём» и как делать это по-настоящему
Что на самом деле значит «наслаждаться каждым днём» и как делать это по-настоящему
0
30 марта
Жизнь
Жизнь
7 конкретных и достижимых целей для работы с психологом
7 конкретных и достижимых целей для работы с психологом
0
30 марта
Жизнь
Жизнь
Как принять возраст и изменения в теле: 5 советов для тех, кто боится стареть
Как принять возраст и изменения в теле: 5 советов для тех, кто боится стареть
0
29 марта
Жизнь
Жизнь
Что такое эмоциональное похмелье и как его предотвратить
Что такое эмоциональное похмелье и как его предотвратить
0
27 марта
Жизнь
Жизнь
Не только бюджет: 3 вопроса, которые стоит задать себе при выборе квартиры для жизни с партнёром
Не только бюджет: 3 вопроса, которые стоит задать себе при выборе квартиры для жизни с партнёром
24 марта
«Горящая изба»
Жизнь
35 родительских советов, которые оказались реально полезными
35 родительских советов, которые оказались реально полезными
0
24 марта
Жизнь
Жизнь
7 особенностей жизни со щенком, к которым я была не готова
7 особенностей жизни со щенком, к которым я была не готова
0
21 марта
Жизнь
Жизнь
Как вырастить финик из косточки
Как вырастить финик из косточки
0
21 марта
Жизнь
Ликбез
44 небольшие привычки, которые принесут большие результаты
44 небольшие привычки, которые принесут большие результаты
0
20 марта
Жизнь
Жизнь
Что такое «аналоговая сумка» и как с её помощью преодолеть думскроллинг
Что такое «аналоговая сумка» и как с её помощью преодолеть думскроллинг
0
19 марта
Жизнь
Жизнь
Меньше места — больше возможностей: 5 причин купить посуду Tefal Ingenio со съёмной ручкой
Меньше места — больше возможностей: 5 причин купить посуду Tefal Ingenio со съёмной ручкой
18 марта
Жизнь
Жизнь
Норм или стрём: брать собак в магазины, аптеки и другие общественные места
Норм или стрём: брать собак в магазины, аптеки и другие общественные места
0
18 марта
Жизнь
Жизнь
Как противостоять давлению и защищать свои ценности с помощью «компаса неповиновения»
Как противостоять давлению и защищать свои ценности с помощью «компаса неповиновения»
0
17 марта
Жизнь
Жизнь
15 вьющихся комнатных растений, которые превратят квартиру в джунгли
15 вьющихся комнатных растений, которые превратят квартиру в джунгли
17 марта
«Горящая изба»
Жизнь
14 простых упражнений, которые прокачают вашу речь за 10 минут в день
14 простых упражнений, которые прокачают вашу речь за 10 минут в день
0
17 марта
Жизнь
Колонка

Новые комментарии

Аватар автора комментария
Наталья Мурахтанова14 минут назад

0 / 0

На момент публикации открывался(( Спасибо за внимательность, исправили.
Лучшие бесплатные веб-сервисы марта
Аватар автора комментария
Анастасия Наумцева1 час назад

0 / 0

С удовольствием посмотрю «Мечтать не вредно» и « Я — значит Ястреб»: люблю кино по реальным событиям
Что смотреть в кинотеатрах в апреле: 11 главных премьер
Аватар автора комментария
Алексей Ложкин1 час назад

0 / 0

Ну тут же вопрос не в сложности профессии, а в переходе в совершенно другое направление. При том когда человеку действительно интересно дело, это отдельное удовольствие.
38-летняя разработчица из США стала сварщицей из-за ИИ — и теперь счастлива
Аватар автора комментария
Miguel Malyshko2 часа назад

0 / 0

Вот-вот. Сварщик - это тяжёлая, грязная работа. И у нас она зачастую хорошо оплачивается. Особенно если вахтой и есть накс - удостоверение
38-летняя разработчица из США стала сварщицей из-за ИИ — и теперь счастлива
От обучения к трудоустройству: 3 истории женщин, которые добились карьерных успехов в сфере новых технологий

От обучения к трудоустройству: 3 истории женщин, которые добились карьерных успехов в сфере новых технологий

Лайфхакер
Информация
О проектеРубрикиРекламаРедакцияВакансииО компании
Подписка
TelegramВКонтактеTwitterViberYouTubeИнициалRSS
Правила
Пользовательское соглашениеПолитика обработки персональных данныхПравила применения рекомендательных технологийПравила сообществаСогласие на обработку персональных данныхСогласие для рекламных рассылокСогласие для информационной программы
18+Копирование материалов запрещено.
Издание может получать комиссию от покупки товаров, представленных в публикациях