 |
| Resiko AI generatif |
Resiko Dan Bahaya AI Generatif Untuk Kehidupan. Jika Anda membaca artikel ini, kemungkinan besar Anda pernah mendengar tentang DALL-E2, alat Kecerdasan Buatan (AI) yang Anda ketikkan dalam beberapa kata dan alat tersebut menciptakan seni baru yang funky, yang seringkali lucu dan juga aneh. Apakah itu sebenarnya seni? Mungkin. Itu topik perdebatan yang hangat. Tapi itulah yang dikenal sebagai AI Generatif . Ini adalah lompatan maju yang signifikan dan sekarang akan membuka peluang. Tetapi ada kerugiannya, seperti halnya teknologi apa pun. Apa kemungkinan konsekuensi yang tidak diinginkan dari AI Generatif?
Konsekuensi yang Tidak Diinginkan dari Generatif AI
Search Engine Warfare:
Obsesi utama dari semua pemasar adalah SEO (Search Engine Optimization), ini adalah bisnis besar dengan sendirinya. Pertarungan terus-menerus antara mesin telusur yang mencoba memberikan konten yang relevan dan pemasar mempermainkan mereka untuk berada di bagian atas halaman. Bayangkan pertempuran yang bisa terjadi dengan Generative AI (GAI) terkunci dalam pertempuran mematikan dengan mesin pencari. Salah satu bagian dari AI bekerja untuk mengetahui algoritma mesin pencari, GAI menulis konten dengan giat untuk mendapatkan peringkat teratas. Siapa yang kalah? Rata-rata warga negara dan konsumen. Kami sudah diretas oleh perusahaan media sosial. Ini membawanya ke tingkat yang sama sekali baru.
Kehilangan Pekerjaan:
Salah satu pekerjaan paling umum dalam ekonomi pertunjukan adalah menulis konten, untuk situs media berita dan juga untuk perusahaan. Terkadang berorientasi pada SEO, tetapi juga untuk blog korporat dan kebutuhan pemasaran. GAI yang baik dapat mengambil banyak dari pekerjaan itu. Dalam beberapa kasus, GAI mungkin juga meningkatkan peran tersebut, tetapi lebih banyak yang akan hilang daripada bertahan dalam peran kooperatif. Peneliti hukum juga bisa kehilangan pekerjaan.
Kejahatan dunia maya:
Meskipun konten serangan phishing, seperti email dari bank atau orang kaya di negara Afrika yang memutuskan untuk memberi Anda semua jutaan miliknya, menjadi lebih baik, sebagian besar masih dapat terlihat saat manusia belajar. Bayangkan seorang GAI menulis teks dan email semacam itu. Ini memberi tekanan pada pikiran manusia untuk mendeteksi dan akan menyebabkan industri keamanan siber mengembangkan alat untuk mendeteksi GAI.
Doxxing dan Serangan Pribadi:
GAI juga dapat digunakan untuk mengumpulkan informasi tentang seseorang dan membuat gambar dan video palsu, bersama dengan konten tertulis untuk membuat orang yang tidak bersalah terlihat seperti telah melakukan hal-hal yang mengerikan. Itu menjadi begitu rumit, begitu bagus, sehingga penguraiannya hampir mustahil. Penindas maya otomatis.
Panggilan Telepon Scam:
Karena GAI membantu meningkatkan sintesis ucapan, kualitas panggilan spam suara otomatis juga dapat meningkat. Dicampur dengan software auto-dialer, ini bisa menjadi skenario mimpi buruk bagi orang-orang. Mungkin itu bisa digunakan seperti serangan DDOS di server, kecuali ponsel Anda yang dibombardir dengan panggilan.
Ada beberapa aplikasi yang kuat untuk GAI dalam bisnis dan masyarakat secara keseluruhan. GAI dapat membantu arsitek dalam merancang bangunan yang lebih baik yang lebih ramah lingkungan. Rancang produk baru yang keren, bantu pengacara melakukan penelitian yang lebih baik. Video game bisa menjadi lebih kompleks dan menyenangkan.
Meskipun kami tidak dapat menentukan semua risiko, bahaya, dan konsekuensi yang tidak diinginkan sebelumnya, industri dapat mempertimbangkannya dalam kerangka kerja. Yang jelas, seperti yang di atas, dapat memiliki perlindungan yang dibangun saat ini. Mereka dapat membantu mengurangi risiko dan bahaya dan mengurangi konsekuensi yang tidak diinginkan. Namun seperti yang telah kita lihat, sebagian besar perusahaan teknologi yang membangun aplikasi AI utama ragu untuk menerapkan etika yang akan berdampak pada potensi pendapatan dan keuntungan. Pemerintah berjuang untuk mengejar kemajuan pesat dalam AI, apalagi teknologi digital lainnya.
AI generatif dapat membawa beberapa manfaat signifikan bagi umat manusia, tetapi, seperti semua teknologi, adalah pedang bermata dua. Saat GAI berkembang bersama aplikasi AI lainnya seperti NLP dan ML, kita akan menghadapi beberapa pertanyaan yang sangat eksistensial tentang apa artinya menjadi manusia, bagaimana kapitalisme harus berkembang, apa arti negara kesejahteraan baru dan bagaimana kita mengatur teknologi ini sementara mendorong inovasi. Ini bukan masalah kecil.