Алгоритмите за изрязване на снимки в Twitter са расистки, сексистки и много други, признава компания

В функцията за изрязване на снимки, която използва машинно обучение, за да реши коя част от снимка да се покаже в потребителските емисии, беше обвинена в да бъдеш расист и сексист миналата година, когато беше установено, че е по-вероятно да извадят черни хора и жени.

Компанията обяви награда за грешки за всеки, който може да докаже пристрастия в своите алгоритми, и сега посочи победителите, които по различен начин доказаха редица пристрастия...

как да създадете резервно копие

Заден план

Когато качите портретно ориентирана снимка в Twitter, системата автоматично прави изрязване, за да покаже пейзажна версия в емисиите на хората. Пълната версия се показва само когато хората докоснат или щракнат върху нея.

Потребителите на Twitter започнаха да забелязват, че ако снимка показва хора с различен цвят на кожата или различен пол, реколтата е по-вероятно да показва бял мъж, отколкото черна жена.

Компанията отговори от , но и обявена и външно състезание за доказване на пристрастия в неговите алгоритми. Сега обяви резултатите от този конкурс.

Резултати от конкурса за изрязване на снимки в Twitter

Акаунтът в Twitter Engineering туитира резултатите , и връзка към a видео от презентациите (по-долу).

1-во място отива за @hiddenmarkov, чието представяне демонстрира как прилагането на филтри за красота може да играе вътрешния модел на точкуване на алгоритъма. Това показва как алгоритмичните модели усилват пристрастията в реалния свят и обществените очаквания за красота.

2-ро място отива за @halt_ai, който откри, че алгоритъмът за открояване продължава маргинализацията. Например изображенията на възрастни хора и хора с увреждания бяха допълнително маргинализирани чрез изрязването им от снимки и засилването на пространствените отклонения на погледа.

защо скоростта на изтегляне на моя xbox one е толкова бавна

3-то място отива за @RoyaPak, който експериментира с алгоритъма за подчертаност на Twitter, използвайки двуезични мемове. Този запис показва как алгоритъмът предпочита изрязването на латински надписи на арабски и какво означава това по отношение на вредите за езиковото разнообразие онлайн.

Най-иновативната награда в наградата за алгоритмични пристрастия отива при @OxNaN, който изследва комуникацията, базирана на емоджи, за да разкрие пристрастия в алгоритъма, който предпочита емоджита със светъл тон на кожата. Този запис показва колко добронамерени корекции на снимките могат да доведат до изместване на изражението на изображението.

Пълните резултати потвърдиха расизма, сексизма, възрастта, способността и др. Един участник дори установи, че алгоритъмът предпочита по-светлата кожа емоджи за тези с по-тъмна кожа!

Twitter е свързан с кода за всеки печеливш запис в Github.

как да използвате отдалечен работен плот за свързване към компютър с Windows 10

Любопитни ли сте да се гмурнете по-дълбоко? Можете да проверите кода за всички печеливши записи в алгоритмичната награда за отклонение чрез следното @GitHub Почивка.

1st – https://t.co/bILzKMbNNT
2-ри – https://t.co/oBbu9GxOME
3-ти – https://t.co/1W2BBsnboi
Най-иновативно – https://t.co/zU4bhDK3il

— Twitter Engineering (@TwitterEng) 9 август 2021 г

Предизвикателството пред Twitter сега ще бъде да коригира тези пристрастия, което може да е по-трудна работа от доказването, че съществуват.

Изображение: Доклад на Teller