Shane Jones, seorang insinyur AI Microsoft, memperingatkan Komisi Perdagangan Federal AS (FTC) dan dewan direksi Microsoft tentang potensi Copilot Designer untuk membuat konten berbahaya.

Surat Terbuka Jones:

  • Produk Berbahaya: Dalam laporannya, Jones menyoroti masalah serius dengan DALL·E 3 dan Copilot Designer. Dia menunjukkan bahwa Copilot Designer terkadang dapat membuat gambar yang tidak pantas, seperti melakukan seksualisasi terhadap wanita dalam skenario yang tidak berbahaya seperti "kecelakaan mobil". Jones juga mengkritik Microsoft karena tidak mengungkapkan risiko ini.
  • Interferensi CELA: Jones melaporkan kerentanan keamanan di DALL·E 3 dan menuduh adanya campur tangan dari Urusan Korporat, Eksternal, dan Hukum Microsoft (CELA) ketika dia mencoba mengomunikasikan risiko ini kepada dewan OpenAI.
  • Laporkan Secara Publik: Dengan menulis surat terbuka, Jones mengadvokasi perlindungan AI yang lebih ketat, menghubungi senator, dan FTC.

Implikasinya:

  • Tanggapan dari Microsoft dan OpenAI: Tanggapan beragam yang diterima Jones—mulai dari permintaan untuk menghapus postingan LinkedIn-nya oleh CELA hingga kurangnya tindakan dalam mengatasi masalah pembuatan konten—menggarisbawahi tantangan yang dihadapi oleh pelapor dalam industri teknologi dan menyoroti perlunya tantangan lebih lanjut. saluran yang transparan dan efektif untuk menyampaikan dan mengatasi masalah etika dalam pengembangan AI.
  • Keterlibatan Masyarakat dan Peraturan: Pendekatan Jones dalam mengatasi kekhawatirannya—mulai dari pelaporan internal di Microsoft hingga keterlibatan dengan senator AS dan Komisi Perdagangan Federal—menggambarkan potensi dampak tindakan individu terhadap peningkatan pemahaman yang lebih luas dan evaluasi ulang etika dan keselamatan AI standar.
  • Wacana Peraturan: Kasus Jones telah memicu wacana yang lebih luas mengenai perlunya pengawasan peraturan dan penetapan standar yang jelas dan dapat ditegakkan untuk teknologi AI.

 

Keywords: Sustainable Development Goals (SDG) 9, Industry, Inovation.