Този американски законодател иска по-голям контрол върху алгоритмите, използвани в наказателните процеси

Представителят Марк Такано (D CA) казва: Правата на интелектуална собственост не трябва да бъдат в състояние да козрат дължимия процес.

AP Photo / J. Скот Applewhite

Този американски законодател иска по-голям контрол върху алгоритмите, използвани в наказателните процеси

От Катрин Матачич Сеп. 23, 2019 г., 16:10 ч

Откакто е въведен през 80-те години, доказателствата за ДНК се превърнаха в „стар стандарт“ на американските съдебни зали, което доведе до осъдителните присъди и оневиненията на хиляди обвиняеми престъпници. Но експертите се борят да анализират влошени или замърсени проби и много от тях са започнали да използват сложен вероятностен генотипиращ софтуер, за да оценят вероятността на заподозрян ДНК да съвпада с ДНК на местопрестъплението. Такива така наречени криминалистични алгоритми далеч не са редки: все по-често те се използват за оценка на съвпадения за всичко - от пръстови отпечатъци до цеви на пистолета до лица в кадри от охранителни камери.

Адвокатите на отбраната рядко имат достъп до изходния код или друга информация, която би обяснила как подобен софтуер е частен собственик. Това е, защото компаниите се опасяват, че ще го разкрият търговски тайни или други видове интелектуална собственост. Но непрозрачността предизвика безпокойство относно справедливостта и прозрачността.

Миналата седмица представителят Марк Такано (D CA) въведе законодателство, което ще улесни подсъдимите, изправени пред федерални наказателни обвинения, да получат достъп до криминалистични алгоритми и допълнително да изисква от производителите на изчислителен криминалистичен софтуер да отговарят на минималните стандарти, определени от националните Институт за стандарти и технологии (NIST).

ScienceInsider догони с Takano да обсъдят новия законопроект. Това интервю е редактирано за краткост и яснота.

Въпрос: Какви проблеми ще реши този законопроект?

О: Това, което знаем, е, че хората често са осъждани с вероятностни модели, които са единственото доказателство в случая. Хората могат да бъдат хвърлени в затвора, те дори могат да загубят живота си [над само] тази форма на косвени доказателства. И това, което също знаем е, че компаниите, които предлагат тези технологии, не искат да отворят изходния код или да обясняват много за основните данни и да поставят под въпрос защитата. Смятаме, че има основен проблем с това. Правата на интелектуална собственост не трябва да могат да надграждат надлежен процес.

В: Коя от тези криминалистични технологии най-много се притеснявате?

A: ДНК доказателства [от] вероятностен генотипиращ софтуер за ДНК анализ. Изглежда, че е желязна истина, по същия начин, както преди много десетилетия тест на детектор на лъжата [направи]. Присъствието на науката може да доведе до [фалшива сигурност] за съдебните заседатели и съдии. Това е напълно подходящо и всъщност необходимо за съдебните заседатели и съдии да разберат границите на технологията и как тя работи.

В: Този законопроект изисква NIST да тества криминалистичен софтуер. Какво би било тестване?

О: Очевидно е, че техните анализатори биха погледнали технологията, за да преценят какви са ограниченията, какви са възможностите и [те] ще разгледат какво казва науката там за данните и как работят тези алгоритми. Бихме ги насърчили да [попитаме фирми]: Имали ли сте тестове и можете ли да ни покажете данни? Има ли процент на грешки, който показва непропорционално въздействие върху малцинствата, като например малцинствата са идентифицирани невярно? ”Смятаме, че всеки ъгъл трябва да бъде разгледан от гледна точка на това как тези системи могат да се провалят.

Въпрос: Какво вдъхнови този законопроект?

О: Говоря много за затворничеството на моето семейство по време на Втората световна война и за японския американски стаж. Каква е връзката там? Това е свързано с правата на поверителност, с дължимата процедура. В същото време това помага да се поддържа правителството в крак с технологиите и помага на Конгреса да разбере най-новите технологии. Опасността е, че - независимо дали става въпрос за системи за гласуване, които изглеждат светли, лъскави или хубави малки черни карета, които изплюват резултат - гражданите, съдебните заседатели и съдиите, прокурорите и адвокатите на защитата [не] разбират как работят тези системи.

В: С какви предизвикателства е изправен този законопроект?

О: Смятам, че това е основният проблем, който се опитва да привлече вниманието на членовете, вниманието на колегите и да привлече ключовите членове на подкомитета, за да го вземе и да разбере основния въпрос. Мисля, че всичко това са много постижими видове неща. Другата бариера е, че съдебната комисия на [Камарата на представителите] има много в своята табела в момента. [Такано имаше предвид разследването на импийчмънт срещу президента Доналд Тръмп.] На този етап може да се окаже моята пречка за по-голямо внимание. Но мисля ... това е случай, в който американският народ разбира [нуждата], така че [усилието] може да бъде по двустранен начин.