AI yang Bisa Buat Konten Seksis Dapat Sorotan dari PBB

Ingetberita.com,Jakarta – Tools AI paling populer di dunia didukung oleh program dari OpenAI dan Meta yang menunjukkan prasangka terhadap perempuan, hal ini menurut sebuah penelitian yang diluncurkan pada Kamis (7 Maret) oleh UNESCO.

Para pemain terbesar di bidang AI bernilai miliaran dolar melatih algoritme mereka pada sejumlah besar data yang sebagian besar diambil dari internet, sehingga alat mereka dapat menulis dengan gaya Oscar Wilde atau membuat gambar yang terinspirasi dari Salvador Dali.

Namun produk AI sering dikritik karena mencerminkan stereotip rasial dan seksis.

Pakar UNESCO menguji algoritme Llama 2 Meta dan GPT-2 dan GPT-3.5 OpenAI, program yang mendukung versi gratis chatbot populer ChatGPT.

Studi tersebut menemukan bahwa setiap algoritme yang dikenal di industri sebagai Model Bahasa Besar (LLM) menunjukkan bukti nyata adanya prasangka terhadap perempuan.

Program tersebut menghasilkan teks yang mengaitkan nama perempuan dengan kata-kata seperti “rumah”, “keluarga”, atau “anak-anak”, namun nama laki-laki dikaitkan dengan “bisnis”, “gaji”, atau “karir”.

Meskipun laki-laki digambarkan memiliki pekerjaan berstatus tinggi seperti guru, pengacara, dan dokter, perempuan sering kali berperan sebagai pelacur, juru masak, atau pembantu rumah tangga.

Namun, penulis memuji Llama 2 dan GPT-2 karena bersifat open source, sehingga permasalahan ini dapat diteliti dengan cermat, tidak seperti GPT-3.5, yang merupakan model tertutup.

“Perusahaan AI benar-benar tidak melayani semua penggunanya”, kata Leona Verdadero, pakar kebijakan digital UNESCO
Audrey Azoulay, direktur jenderal UNESCO, mengatakan masyarakat umum semakin banyak menggunakan alat AI dalam kehidupan sehari-hari.

“Aplikasi AI baru ini memiliki kekuatan untuk secara halus membentuk persepsi jutaan orang, sehingga bias gender sekecil apa pun dalam kontennya dapat secara signifikan memperbesar kesenjangan di dunia nyata,” katanya.

UNESCO, yang merilis laporan tersebut untuk memperingati Hari Perempuan Internasional, merekomendasikan perusahaan-perusahaan AI untuk mempekerjakan lebih banyak perempuan dan kelompok minoritas dan meminta pemerintah untuk memastikan AI yang etis melalui peraturan.

Related posts

Leave a Reply

Your email address will not be published. Required fields are marked *