fulyankin / neural_nets_dpo Goto Github PK

Несколько лет назад китайцы решили прогнать через нейросеть фотографии лиц преступников и обычных людей. В итоге они выступили с заявлением о том, что научились с 90% вероятностью определять нарушителей закона по внешнему виду. Но по факту оказалось, что арестанты в отличии от обычных людей на снимках не улыбались — несколько странно выглядеть весёлым на фотографии для полицейской картотеки. Посему нейросеть научилась определять не преступников, а просто серьёзных людей. И таких примеров ошибочной трактовки результатов работы ИИ масса. Загляните в коллекцию Calling Bullshit.

https://www.callingbullshit.org/index.html

Тоже прикольно, но про овечек:

https://aiweirdness.com/post/171451900302/do-neural-nets-dream-of-electric-sheep

Найти такую же, но про этническую дискриминацию от fb

https://nplus1.ru/news/2019/01/28/debiasing-faces

Как умирают ганы: https://vk.com/video6045249_456239321?list=5699ae0789482e8524