ทุกอย่างเริ่มต้นอย่างไร
สหภาพยุโรปกำลังหารือถึงความเป็นไปได้ในการห้ามการใช้ของเทียม
เป็นส่วนหนึ่งของร่างมติ“ในแนวทางของยุโรปด้านปัญญาประดิษฐ์” ผู้บริหารสหภาพยุโรปเสนอให้ห้ามเทคโนโลยี AI ที่ใช้สำหรับ “การเฝ้าระวังจำนวนมากที่ใช้ในลักษณะทั่วไปกับบุคคลทุกคนโดยไม่มีความแตกต่างใดๆ” ข้อความในร่างกฎหมายดังกล่าวอธิบายรายละเอียดวิธีการเฝ้าระวัง เช่น “การติดตามและติดตามบุคคลในสภาพแวดล้อมดิจิทัลหรือทางกายภาพ รวมถึงการรวบรวมและวิเคราะห์ข้อมูลส่วนบุคคลจากแหล่งต่างๆ โดยอัตโนมัติ” สำนักข่าว REGNUM รายงาน
คณะกรรมาธิการยุโรปพยายามที่จะประกาศกฎหมายของระบบปัญญาประดิษฐ์ (AI) ที่ใช้สำหรับ "การเฝ้าระวังผู้คนจำนวนมาก" ซึ่งเป็นส่วนหนึ่งของการแบนใหม่ที่จะเปิดตัวในสัปดาห์หน้า
นอกจากนี้คณะกรรมาธิการยุโรปยังจัดให้มีการห้ามเพื่อใช้แอปพลิเคชัน AI ที่ละเมิดค่านิยมของสหภาพยุโรปหรือละเมิดสิทธิมนุษยชน สิ่งเหล่านี้รวมถึงระบบที่จัดการกับพฤติกรรมของมนุษย์และกำหนดเป้าหมายไปยังกลุ่มประชากรที่เปราะบาง
ตามร่างตัวอย่างเช่นสมาชิกสหภาพยุโรปจะต้องสร้างคณะกรรมการประเมินเพื่อทดสอบและตรวจสอบความถูกต้องของระบบ AI ที่มีความเสี่ยงสูง และ บริษัท ที่พัฒนาหรือขาย AI ที่อยู่ภายใต้ข้อ จำกัด รวมถึง บริษัท ที่มาจากประเทศอื่น ๆ ทั่วโลกสามารถถูกปรับได้ถึง 4% ของรายได้ทั่วโลก
ปัญญาประดิษฐ์ที่ “มีความเสี่ยงสูง” คืออะไร?
ตามกฎที่วางแผนไว้ผู้ที่มีความตั้งใจที่จะใช้ปัญญาประดิษฐ์จะต้องพิจารณาว่ากรณีการใช้งานเฉพาะนั้น "มีความเสี่ยงสูง" หรือไม่ดังนั้นจึงจำเป็นต้องทำการประเมินก่อนการปฏิบัติตามข้อกำหนดที่บังคับหรือไม่
ตัวอย่างของ AI ที่มีความเสี่ยงสูง:
- ระบบที่จัดลำดับความสำคัญของการจัดส่งบริการฉุกเฉิน
- ระบบที่กำหนดการเข้าถึงหรือแต่งตั้งบุคคลในสถาบันการศึกษา
- อัลกอริทึมการรับสมัคร
- ผู้ที่ประเมินความน่าเชื่อถือ
- เพื่อดำเนินการประเมินความเสี่ยงรายบุคคล
- อัลกอริทึมสำหรับทำนายอาชญากรรม
สาระสำคัญของร่างกฎหมายควบคุม AI คืออะไร?
เราอธิบายว่าใบเรียกเก็บเงินใหม่ให้อะไรบ้าง
การรวบรวมข้อมูลเกี่ยวกับประชาชนที่ใช้ระบบการเฝ้าระวัง การตรวจสอบเครือข่ายโซเชียล ข้อมูลธนาคาร และแหล่งข้อมูลอื่น ๆ - “การสอดแนมบุคคลตามอำเภอใจควรเป็นสิ่งต้องห้าม หากนำไปใช้ในลักษณะทั่วไปกับบุคคลทุกคนโดยไม่มีการแบ่งแยก” กล่าวอีกนัยหนึ่ง การเฝ้าระวังแบบ "เลือกสรร" หากบุคคลมีบางสิ่งที่เป็นที่สนใจของหน่วยงานผู้มีอำนาจ อาจได้รับอนุญาต แต่การเฝ้าระวังทั้งหมด "เผื่อไว้" อาจถูกห้ามในยุโรป
ร่างกฎหมายนี้ยังกำหนดให้มีการห้ามด้วยการแนะนำระบบการให้คะแนนทางสังคมหรือระบบการให้เครดิตทางสังคม เมื่อมีการรวบรวมข้อมูลขนาดใหญ่เกี่ยวกับการเชื่อมต่อ พฤติกรรม การซื้อ และข้อมูลอื่น ๆ สะสมอยู่ในพลเมือง และภาพทางสังคมของพลเมืองถูกสร้างขึ้นโดยอิงจากข้อมูลทั้งหมด AI หรือโครงข่ายประสาทเทียมสามารถช่วยคิดเรื่องนี้ได้ พวกเขาชอบสิ่งนี้ในภาคการธนาคาร และยุโรปก็ไม่มีข้อยกเว้นในเรื่องนี้ แต่จีนได้ก้าวไปไกลที่สุดในการสร้างระบบเครดิตทางสังคม ซึ่งผู้ที่มีคะแนนต่ำจะถูกปฏิเสธตั๋วสำหรับการขนส่งระหว่างเมือง การพักอาศัยในบางพื้นที่ และข้อจำกัดอื่นๆ หลายประการ ระบบ AI ดังกล่าวมี “โอกาสสูงที่จะมีอิทธิพลต่อการดำรงชีวิตของใครบางคน” เอกสารระบุ
เกี่ยวกับการให้คะแนนทางสังคมในการเรียกเก็บเงินกล่าวว่า "ระบบ AI ที่ใช้ในการประเมินตัวบ่งชี้ทางสังคมของวัตถุประสงค์ทั่วไปควรถูกห้าม" คาดว่าจะมีการลงคะแนนเสียงในร่างกฎหมายนี้ในวันที่ 21 เมษายน จนถึงจุดนี้ตัวแทนของคณะกรรมาธิการยุโรปปฏิเสธที่จะแสดงความคิดเห็นเกี่ยวกับเอกสารที่ไม่ได้รับการอนุมัติ
โครงการนี้ยังจัดเตรียมไว้สำหรับ:
- การแจ้งเตือนเกี่ยวกับการโต้ตอบของมนุษย์กับ AI เว้นแต่จะ "ชัดเจนจากสถานการณ์และบริบทของการใช้งาน"
- การประเมินระบบที่มีความเสี่ยงสูงก่อนที่จะเกิดขึ้นการทดสอบการใช้งาน รวมถึงการตรวจสอบให้แน่ใจว่าระบบเหล่านี้สามารถเข้าใจได้สำหรับผู้บังคับบัญชาที่เป็นมนุษย์ และได้รับการฝึกอบรมเกี่ยวกับชุดข้อมูล "คุณภาพสูง" ที่ทดสอบอคติ
- การจัดตั้ง “สภาปัญญาประดิษฐ์แห่งยุโรป” ซึ่งประกอบด้วยตัวแทนจากทุกประเทศในสหภาพยุโรป
ผู้เชี่ยวชาญคิดอย่างไรเกี่ยวกับการควบคุม AI
บางทีอาจเป็นส่วนที่สำคัญที่สุดของเอกสารเป็นบทความที่ห้ามการใช้ AI บางอย่างรวมถึงการเฝ้าระวังจำนวนมากและการจัดอันดับความน่าเชื่อถือทางสังคม อย่างไรก็ตามปฏิกิริยาต่อโครงการจากกลุ่มสิทธิดิจิทัลและผู้เชี่ยวชาญด้านนโยบายกล่าวว่าส่วนนี้ต้องได้รับการปรับปรุง
“คำอธิบายของระบบเทียมที่ต้องห้ามหน่วยข่าวกรองมีความคลุมเครือและมีภาษาที่ไม่ชัดเจนซึ่งสามารถสร้างช่องโหว่ร้ายแรงได้” Daniel Leufer นักวิเคราะห์นโยบายของยุโรปที่ Access Now อธิบายในการให้สัมภาษณ์กับ The Verge ตามคำพูดของเขาส่วนนี้ "ยังห่างไกลจากอุดมคติ"
กฎหมายระดับชาติจะตัดสินอย่างไรการตัดสินใจของ AI ก่อให้เกิดอันตรายกับใครหรือไม่? ในทางกลับกัน การห้ามใช้ AI เพื่อการสอดแนมมวลชนนั้น “ผ่อนปรนเกินไป” เขาเสริมว่าการห้ามระบบเครดิตทางสังคมตาม "ความน่าเชื่อถือ" นั้นมีคำจำกัดความที่แคบเกินไป ระบบเครดิตทางสังคมไม่จำเป็นต้องประเมินว่าบุคคลนั้นน่าเชื่อถือในการตัดสินใจประเด็นต่างๆ เช่น สิทธิ์ในการรับสิทธิประโยชน์หรือไม่
ที่ Twitter Omer Tene รองประธานองค์กรที่ไม่แสวงหาผลกำไร IAPP (สมาคมผู้เชี่ยวชาญด้านความเป็นส่วนตัวระหว่างประเทศ) ให้ความเห็นว่าคำตัดสินดังกล่าว “แสดงให้เห็นถึงแนวทางทั่วไปของบรัสเซลส์ต่อเทคโนโลยีและนวัตกรรมใหม่ ๆ เมื่อมีข้อสงสัยให้ปรับเปลี่ยน" จากข้อมูลของ Tene หากข้อเสนอดังกล่าวถูกนำมาใช้ มันจะสร้าง "ระบบนิเวศด้านกฎระเบียบที่กว้างใหญ่" ซึ่งจะดึงดูดไม่เพียงแต่ผู้สร้างระบบ AI เท่านั้น แต่ยังรวมถึงผู้นำเข้า ผู้จัดจำหน่าย และผู้ใช้ด้วย และจะสร้างคณะกรรมการกำกับดูแลจำนวนหนึ่ง ทั้งในประเทศและต่างประเทศ ทั่วทั้งสหภาพยุโรป
อย่างไรก็ตาม ระบบนิเวศนี้จะไม่ใช่ครั้งแรกถึงเวลาที่ต้องจำกัด "เทคโนโลยีขนาดใหญ่" Michael Veale อาจารย์ด้านสิทธิและกฎระเบียบดิจิทัลที่ University College London กล่าว “โฟกัสของเขามุ่งเน้นไปที่ธุรกิจที่ไม่ค่อยมีคนรู้จักและผู้ให้บริการเครื่องมือในการตัดสินใจซึ่งงานมักจะหลบเลี่ยงการตรวจสอบของหน่วยงานกำกับดูแลหรือลูกค้าของพวกเขาเอง”
ไม่ทราบว่าอาจมีการเปลี่ยนแปลงอะไรบ้างในร่างข้อเสนอนี้ในขณะที่ผู้กำหนดนโยบายของสหภาพยุโรปเตรียมประกาศอย่างเป็นทางการในวันที่ 21 เมษายน อย่างไรก็ตาม เมื่อมีการเสนอกฎระเบียบแล้ว กฎระเบียบดังกล่าวจะมีการเปลี่ยนแปลงตามข้อเสนอแนะจาก MEP และจะต้องดำเนินการแยกกันในแต่ละรัฐของประเทศ
เหตุใดจึงจำเป็นต้องมีกฎหมายใหม่
แผนการควบคุม AI ได้มีการหารือกันมาระยะหนึ่งแล้วเวลา. ย้อนกลับไปในเดือนกุมภาพันธ์ 2020 คณะกรรมาธิการยุโรปได้เผยแพร่เอกสารไวท์เปเปอร์โดยสรุปแผนการควบคุมการใช้งานปัญญาประดิษฐ์ที่ "มีความเสี่ยงสูง" แม้ว่าร่างใหม่จะไม่ชัดเจนนักว่าจะกำหนด "ความเสี่ยงสูง" ได้อย่างไร
ตามร่างร่างเป้าหมายหลักเป้าหมายของคณะกรรมาธิการที่นี่คือการเพิ่มความเชื่อมั่นของสาธารณชนต่อ AI ผ่านการตรวจสอบและถ่วงดุลตามค่านิยมของสหภาพยุโรป เป้าหมายคือเพื่อกระตุ้นให้เกิดการนำสิ่งที่เรียกว่า AI ที่ "น่าเชื่อถือ" และ "มีมนุษย์เป็นศูนย์กลาง" มาใช้ สิ่งนี้ไม่เพียงแต่ใช้กับแอปพลิเคชันที่ “มีความเสี่ยงสูง” เท่านั้น แต่ยังใช้กับทุกคนที่โต้ตอบกับบุคคลด้วย
จะเกิดอะไรขึ้นถ้ากฎหมายผ่าน?
หากร่างข้อเสนอได้รับการยอมรับก็จะยอมรับจะส่งผลให้สหภาพยุโรปมีจุดยืนที่แข็งแกร่งในการใช้งาน AI บางอย่าง การใช้งานบางอย่างจะต้องอยู่ภายใต้การควบคุมที่คล้ายคลึงกับกฎระเบียบความเป็นส่วนตัวดิจิทัลของสหภาพยุโรปภายใต้กฎหมาย GDPR
ข้อกำหนดของสหภาพยุโรปรวมถึงการรับรองความปลอดภัยและมั่นใจในความถูกต้องสม่ำเสมอของ AI —โดยมีเงื่อนไขการรายงาน “เหตุการณ์ร้ายแรงใด ๆ หรือความล้มเหลวใด ๆ ในการทำงานของระบบ AI ที่ก่อให้เกิดการละเมิดภาระผูกพันต่อหน่วยงานกำกับดูแลไม่เกิน 15  ;หลายวันต่อมาก็ได้ทราบเรื่องนี้
เป็นที่น่าสังเกตว่าคณะกรรมการหลีกเลี่ยงข้อเสนอห้ามใช้การจดจำใบหน้าในที่สาธารณะ ตามแบบร่างที่รั่วไหลเมื่อต้นปีที่แล้วเธอกำลังพิจารณาแนวคิดนี้
ไม่ทราบว่าอาจมีการเปลี่ยนแปลงอะไรบ้างนี่เป็นร่างข้อเสนอเนื่องจากนักการเมืองในสหภาพยุโรปเตรียมประกาศอย่างเป็นทางการในวันที่ 21 เมษายน อย่างไรก็ตามเมื่อมีการเสนอกฎระเบียบแล้วจะมีการเปลี่ยนแปลงหลังจากได้รับข้อเสนอแนะจาก MEPs และจะต้องดำเนินการแยกกันในแต่ละรัฐ
นี่ไม่ใช่ครั้งแรกที่ยุโรปพูดถึงกฎระเบียบอุตสาหกรรมเทคโนโลยี ด้วยเหตุนี้หน่วยงานของสหภาพยุโรปจึงต้องการบังคับให้ Google และ Facebook จ่ายเงินให้กับผู้เผยแพร่ข่าวและเมื่อต้นปีนักการเมืองในยุโรปเรียกหัวหน้าของ บริษัท ยักษ์ใหญ่ด้านเทคโนโลยีเพื่อหารือเกี่ยวกับกฎหมายที่ จำกัด การผูกขาดของพวกเขา โดยทุกบัญชีกฎหมายที่ร่างไว้จะให้ค่าปรับรายได้ 10% สำหรับยักษ์ใหญ่ด้านเทคโนโลยีเพื่อ จำกัด การผูกขาดของตน
อ่านเพิ่มเติม
แผนที่แรกที่แม่นยำของโลกถูกสร้างขึ้น คนอื่นผิดอะไร
NASA บอกว่าพวกเขาจะส่งตัวอย่างของดาวอังคารมายังโลกได้อย่างไร
เครื่องยนต์สำหรับเครื่องบินโคจรได้รับการทดสอบในรัสเซีย
ระเบียบการคุ้มครองข้อมูลทั่วไป ทั่วไปกฎการคุ้มครองข้อมูลทั่วไป (GDPR) เป็นข้อบังคับของสหภาพยุโรปซึ่งรัฐสภายุโรป สภาแห่งสหภาพยุโรป และคณะกรรมาธิการยุโรปเสริมสร้างและรวมการปกป้องข้อมูลส่วนบุคคลของบุคคลทั้งหมดในสหภาพยุโรป (EU) เข้าด้วยกัน กฎระเบียบนี้ยังมีจุดมุ่งหมายเพื่อส่งออกข้อมูลจากสหภาพยุโรป
GDPR มีวัตถุประสงค์หลักเพื่อให้มั่นใจว่าเพื่อให้ประชาชนสามารถควบคุมข้อมูลส่วนบุคคลของตนเองได้ และลดความซับซ้อนของกรอบการกำกับดูแลสำหรับความสัมพันธ์ทางเศรษฐกิจระหว่างประเทศโดยการรวมกฎระเบียบภายในสหภาพยุโรปเข้าด้วยกัน
ระบบเครดิตทางสังคม ("the socialการให้คะแนน "," ระบบความไว้วางใจทางสังคม ") - ระบบสำหรับการประเมินประชาชนหรือองค์กรแต่ละคนโดยใช้พารามิเตอร์ต่างๆซึ่งเป็นค่าที่ได้จากเครื่องมือเฝ้าระวังจำนวนมากและใช้เทคโนโลยีการวิเคราะห์ข้อมูลขนาดใหญ่ ได้รับการดำเนินการครั้งแรกโดยรัฐบาลจีนในปี 2010