Этика в сфере ии?

Проще всего думать об этике ИИ как о наборе вопросов, которые возникают не тогда, когда система ошибается, а гораздо раньше, ещё на этапе, когда кто-то решает собрать данные и обучить на них модель: откуда взяли тексты и фотографии, знали ли об этом люди, чьи лица и переписка туда попали, можно ли было обойтись меньшим объёмом; дальше идёт вопрос о том, кому модель служит хуже, потому что обучающая выборка почти всегда перекошена, и система, натренированная преимущественно на одной группе людей, на остальных работает заметно грубее, причём разработчик узнаёт об этом последним; отдельная линия это прозрачность, то есть можно ли вообще объяснить, почему алгоритм отказал в займе или отфильтровал резюме, и имеет ли человек право потребовать такое объяснение; ещё одна линия это ответственность, самая неудобная, потому что в цепочке заказчик, разработчик, поставщик данных и оператор каждый показывает на соседнего; наконец, вопрос применения, где одна и та же технология распознавания лиц одинаково годится и для поиска пропавших детей, и для слежки за людьми на площади, и техника здесь ни при чём, решение принимают люди. Всё это смежно с правом, но с ним не совпадает: законы формулируются медленно и обычно после громкого случая, а этические рамки компании принимают сами, добровольно, и потому нарушают их тоже сами, без внешних последствий. Сюжеты про восстание машин к этому списку почти не относятся, обсуждать их приятно, но реальный ущерб пока приносят скучные вещи вроде утёкшей базы клиентов и предвзятого скоринга.