コネチカット州ハートフォード (AP) — コネチカット州は、差別を防ぎ、透明性を高めるために、州政府による児童福祉やその他の機関でのアルゴリズムを含む人工知能の使用を保護する必要がある、と米国公民権委員会の諮問委員会は木曜日に述べた.
連邦委員会のコネチカット諮問委員会は、州議員に対し、そのようなシステムを規制する法律を可決するよう求めました。これは、国の他の地域で懸念を引き起こしています。
問題は、機関が子供を家から引き離し、健康、住宅、その他の給付を承認し、どこに法律を集中させるかを決定する際に、アルゴリズムが欠陥のあるデータを使用して、マイノリティ、低所得世帯、障害者、その他のグループを不当に特定できることだと批評家は言います。他の用途の中でも、強制と子供の学校への割り当て。
コネチカット州諮問委員会の議長であるデビッド・マクガイア氏は、「コネチカット州は毎日、住民の生活と公民権に影響を与える何千もの決定を下しています。 「州がアルゴリズムを使用する場合、住民はどの機関がそのアルゴリズムを使用しているか、そのアルゴリズムが使用されている理由、およびアルゴリズムが公正であることを保証することを知っておく必要があります。」
委員会は、コネチカット州でのアルゴリズムの使用における差別や偏見の特定の例を特定しなかったが、今後数か月以内により包括的なレポートをリリースすると述べた. パネルはまた、コネチカット州の一部の機関が、公的記録法に基づいて求められたときに、アルゴリズムの使用に関する完全な情報を公開しなかったという研究を指摘しました.
このような人工知能 (AI) の使用に対する懸念から、バイデン政権は 10 月に AI 権利法案の青写真を発行し、デジタルおよび市民権を保護するための政府の行動を促すようになりました。
AP通信による昨年の調査では、国の児童福祉システム内でのアルゴリズムの使用の増加に偏りと透明性の問題があることが明らかになりました。
マクガイア氏は、コネチカットのパネルによるこの問題のレビューは、米国公民権委員会またはその 56 の諮問委員会による最初のものであると述べました。 この委員会は、独立した超党派の連邦事実調査機関として、1957 年の公民権法によって設立されました。
アルゴリズムの使用を支持する人々は、データを使用することで政府のシステムをより完全かつ効率的にすることができると述べています。
コネチカット諮問委員会は、州議員に対し、潜在的なバイアスの評価を含む、アルゴリズムの独立した監査を必要とする法律を可決し、州の記録法の下で、機関によるアルゴリズムの使用に関する情報を公開することを義務付けるよう求めています。
民主党の知事ネッド・ラモントのオフィスは、コメントの要請にすぐには応じなかった. 議会の民主党指導者のスポークスパーソンは、彼らがこの問題を調査していると述べた。 民主党は、総会の両院を支配しています。
共和党上院院内総務のケビン・ケリーと下院共和党院内総務のビンセント・カンデロラは、州がアルゴリズムをどのように使用しているかについての見直しを歓迎しました。
「これらの決定のいくつかを行っているのは机の後ろにいる人間ではなく、コンピューターで生成された可能性があることに気付くと、人々は驚くかもしれません」と Candelora 氏は述べています。 「政策に影響を与えると私は信じているので、それらの決定を下しているプログラムに何が入っているかを知る必要があります。」
コネチカット諮問委員会は、昨年発表されたイェール法学校の報告書を指摘し、コネチカット州の特定の機関が、州の情報公開法に基づく要求に応じて、アルゴリズムの使用に関する完全な情報を公開しなかったと述べています。
「情報公開 (FOI) 要求への対応により、既存の開示要件がアルゴリズムの使用に関する有意義な公的監視を行うには不十分であり、機関がアルゴリズムの有効性と信頼性を適切に評価していないことが確認されました」と報告書は述べています。
「FOIAの回答は、一般に、政府機関がアルゴリズムによって引き起こされる潜在的な問題を十分に認識しておらず、透明性の欠如について無関心であることを明らかにした.
ロースクールは、州の子供と家族、教育、行政サービスの部門にアルゴリズムに関する情報を要求したと述べた。
児童・家族省は、危険にさらされている子供を特定するためのアルゴリズムの使用に関して、ロースクールに唯一完全な FOIA の回答を提供した、とロースクールは述べた。 同機関は基本的な情報を開示したが、そのソースコードは開示しておらず、ソースコードは開示しておらず、企業秘密として保護されていると主張した、とロースクールは述べた。
ロースクールによると、教育省は、学生を学校に割り当てるために使用するアルゴリズムに関する部分的な情報しか提供しなかったが、行政サービス省は、州の従業員や請負業者を雇うために使用するアルゴリズムに関する情報を提供しなかった.
諮問委員会の勧告とイェール大学の調査について尋ねられた児童・家族省の広報担当者は、問題を検討していると述べた. 行政サービス省は対応に取り組んでいると述べ、教育省の職員はすぐにメッセージを返さなかった.
ウィリアム・トン州司法長官の広報担当者はコメントを控えた。