Будет ли ИИ брать взятки? ( 1 фото )

Может ли ИИ быть предвзятым? Казалось бы нет, но...да.

Искусственный интеллект и предвзятость в медицине

Казалось бы, машина не может быть предвзятой, но это не так. С внедрением ИИ в нашу жизнь, оказалось, что часто у него есть множество этнических, расовых и других предрассудков из-за того, что они могут работать на предвзятых алгоритмах, обучаться на предвзятых данных, а также с непредвзятыми нейросетями могут работать предвзятые люди. В медицине эти предрассудки абсолютно неприемлемы и особенно критичны. Обеспокоенность связана в том числе с тем, что ИИ точно определяет расу по УЗИ сердца и рентгену легких, хотя как он это делает не понятно, явных признаков для определения расы в таких изображениях нет. Пока что не ясно о чем говорит и к чему приведет такая способность нейросетей — дискриминациям в алгоритмах лечения, а может, наоборот, поможет отслеживать дискриминации в системе здравоохранения. При этом сложности добавляет то, что во-первых, данные искусственного интеллекта используют врачи и пациенты, которые тоже могут быть предвзяты по отношению к ИИ, а во-вторых, некоторым группам населения ИИ может быть просто недоступен, из-за чего данные для обучения машины могут быть неполноценными, так что даже данные непредвзятого алгоритма могут вредить людям. Все пациенты заслуживают помощи как от честных алгоритмов, так и от честной реализации, поэтому необходимо выработать подходы для минимизации предвзятости, связанной с использованием искусственного интеллекта.Implications of predicting race variables from medical images

меня не столько беспокит расовые и прочие, сколько продвижение "зеленых технологий" как безусловной "пользы", ну и да интересы страховых, фарм и пищевых компаний.
Интерестно , а чем ИИ будут брать взятки? В террабайтах?

Крепкого!

Материал взят: Тут