Soul - Untuk pertama kalinya dalam 25 tahun, vokal khas superstar Korea Selatan Kim Kwang-seok akan terdengar di televisi nasional menyanyikan materi baru. Itu adalah prestasi yang menjadi lebih luar biasa karena penyanyi folk terkenal itu telah meninggal.

Seperti yang dilansir dari CNN,  penyiar nasional SBS berencana untuk menggunakan kecerdasan buatan (Artificial Intilegence = AI) untuk menghidupkan kembali suara Kim pada program baru, "Competition of the Century: AI vs Human," yang akan ditayangkan akhir pekan ini.

Ini bukan pertama kalinya AI digunakan untuk menghidupkan kembali penyanyi terkenal di Korea Selatan.

Pada bulan Desember, channel musik Mnet menayangkan "One More Time," sebuah acara yang menggunakan AI dan hologram artis yang sudah meninggal untuk memberikan penghormatan atas karya mereka.

Dan, pada Malam Tahun Baru, superstar K-Pop BTS tampil online dengan penyanyi versi AI Shin Hae-chul, yang meninggal setelah operasi pada 2014.

Pertunjukan AI baru-baru ini membuat penggemar antusias akan musik dan teknologinya, tetapi yang lain telah menyuarakan keprihatinan tentang etika dan legalitas untuk menghidupkan kembali suara orang mati. Penciptaan karya baru - atau suara yang dihidupkan kembali - oleh AI juga menimbulkan masalah hak cipta. Siapa yang dianggap pemiliknya? Pencipta program AI atau sistem AI itu sendiri?

Penyanyi legendaris Korea
Kim baru berusia 31 tahun ketika dia meninggal pada tahun 1996 di puncak karirnya setelah serangkaian lagu hits termasuk "A Letter From a Private," "Song of My Life" dan "In the Wilderness."

Kematiannya dianggap begitu mengejutkan sehingga beberapa tidak pernah menerima penyebab resmi bunuh diri, malah memilih untuk mempercayai teori konspirasi bahwa dia dibunuh.

Beberapa dekade kemudian, penggemar masih berkumpul di jalan yang dinamai untuk menghormatinya di dekat rumah masa kecilnya di kota Daegu, meskipun penghargaan tahun ini sebagian besar diadakan secara online karena pandemi virus corona.

Lukisan dinding sang seniman menatap ke jalan, di mana turis duduk di bangku berbentuk seperti gitar dan mendengarkan musisi memainkan lagu-lagu terhebatnya.

Jadi, ketika penyiar nasional SBS mengumumkan bahwa mereka menggunakan AI untuk membuat ulang suara Kim pada program baru yang ditayangkan bulan ini, itu membuat para penggemar menjadi girang.

Klip promosi yang berdurasi satu menit Kim menyanyikan "I Miss You," sebuah lagu balade yang dirilis oleh Kim Bum-soo pada tahun 2002, telah dilihat lebih dari 145.000 kali di YouTube sejak Desember. Dan video yang menunjukkan proses di balik episode tersebut telah ditonton lebih dari 750.000 kali sejak diposting pada 6 Januari.

"Suara yang dipulihkan terdengar sangat mirip dengannya, seolah-olah Kim merekamnya hidup-hidup," kata Kim Jou-yeon, penggemar Kim selama 30 tahun.

Itu bahkan mengesankan penggemar muda Park Hye-hyun, yang baru berusia dua tahun ketika Kim meninggal. "Salah satu keinginan saya adalah mendengar lebih banyak lagu dengan suara Kim ... Saya menangis," katanya.

Acara yang terinspirasi oleh pertandingan Go
Produser SBS Nam Sang-moon mengatakan ide untuk persaingan AI versus manusia datang kepadanya setelah dia menyaksikan juara dunia Lee Se-dol mengambil program AI Korea Selatan HanDol dalam permainan strategi kuno Go pada tahun 2019.

Secara mengejutkan, Lee memenangkan satu dari tiga pertandingan mereka.

Hanya sebulan sebelumnya, Lee telah mengumumkan pengunduran dirinya dari kompetisi Go profesional, dengan mengatakan AI adalah "entitas yang tidak dapat dikalahkan."

Go membutuhkan dua pemain untuk menempatkan batu hitam dan putih di grid 19 kali 19. Setiap pesaing mencoba untuk mengklaim wilayah paling banyak dengan mengelilingi bidak lawan mereka sehingga mereka dikeluarkan dari papan.

Pertandingan Lee melawan HanDol mengingatkan Nam pada pertandingan Lee sebelumnya melawan AlphaGo, program AI yang dikembangkan oleh Google DeepMind, pada 2016. Saat itu, AlphaGo memenangkan empat dari lima pertandingan, dan setelah itu Lee mengatakan dia telah "salah menilai" kemampuan mesin.

"Lee-AlphaGo adalah kejutan besar yang diikuti dengan minat yang singkat namun sangat besar pada AI, yang masih dikembangkan di suatu tempat, tetapi kami belum terbiasa dengannya," kata produser SBS Nam dalam wawancara telepon.

Nam merasa publik Korea siap untuk pembaruan dan mulai mengumpulkan seri kompetisi AI enam bagian, termasuk penampilan AI dari mendiang Kim Kwang-seok.

Menciptakan Kim kembali
Perusahaan audio AI di balik suara reinkarnasi Kim adalah Supertone, sebuah perusahaan rintisan Korea Selatan yang didirikan pada tahun 2020 yang menyediakan solusi audio AI untuk pembuat konten, menurut salah satu pendiri dan Chief Operating Officer Choi Hee-doo.

“Misalnya, BTS sangat sibuk akhir-akhir ini, dan sangat disayangkan jika mereka tidak dapat berpartisipasi dalam konten karena kurangnya waktu. Jadi, jika BTS menggunakan teknologi kami saat membuat game atau buku audio atau dubbing animasi, misalnya, mereka tidak perlu merekam secara langsung, ”kata Choi.

Teknologi Supertone’s Singing Voice Synthesis (SVS) mempelajari suara dengan mendengarkan beberapa lagu dengan nada dan lirik yang sesuai, jelas Choi.

Sistem mempelajari 100 lagu oleh 20 penyanyi sebelum diberikan 10 lagu Kim Kwang-seok untuk dipelajari. Sekarang dia tahu suaranya dengan cukup baik untuk meniru gaya unik dan pengucapan penyanyi itu, kata Choi.

Dalam acara SBS, AI Kim tidak akan bersaing dengan penyanyi manusia - dia akan bernyanyi duet dengan salah satu penyanyi. “Kami menghidupkan kembali Kim Kwang-seok untuk menunjukkan kemampuannya,” kata Nam, produser acara.

Sebagai gantinya, Ock Joo-hyun, mantan penyanyi pemimpin girl band Fin.K.L, akan menggunakan mesin AI. Sama seperti sistem AI yang mempelajari suara Kim, sistem itu juga akan dilatih untuk menirunya.

Sementara beberapa orang mungkin menganggap persaingan antara penyanyi AI dan manusia sebagai kesenangan yang tidak berbahaya, yang lain memperingatkan bahwa teknologi tersebut menimbulkan ancaman yang perlu ditangani dengan pedoman dan peraturan yang lebih ketat.

Potensi bahayanya AI
Korea Selatan yang paham teknologi dianggap sebagai yang terdepan dalam teknologi AI, tetapi ada seruan untuk lebih banyak regulasi.

Dalam beberapa hari setelah peluncuran petisi minggu lalu, lebih dari 376.000 orang telah memberikan tanda tangan mereka untuk menyerukan hukuman yang lebih keras bagi pembuat video deepfake, terutama yang menggunakan wajah selebriti wanita untuk pornografi.

Peneliti yang berbasis di Amsterdam, Deeptrace, menghitung lebih dari 14.000 video deepfake online pada tahun 2019, dan menemukan bahwa hampir semuanya - 96% - adalah pornografi deepfake non-konsensual yang menggunakan gambar selebriti wanita, banyak dari Korea Selatan.

Meniru suara seseorang juga menimbulkan risiko serius, terutama jika audio palsu digunakan dalam kampanye informasi yang salah dan penipuan. Pada 2019, penipu meyakinkan seorang eksekutif untuk mentransfer ratusan ribu dolar tunai ke sebuah akun, dengan memalsukan suara bosnya menggunakan perangkat lunak audio.

“Setiap tahun, kami melihat sekitar $ 470 juta kerugian akibat penipuan, termasuk dari transfer kawat dan penipuan telepon. Ini skala yang sangat besar, "Vijay Balasubramaniyan, CEO dan salah satu pendiri Pindrop, mengatakan kepada CNN tahun lalu.

Di seluruh dunia, negara dan organisasi menyerukan reformasi hukum, pedoman etika, dan perjanjian sosial untuk mencegah penyalahgunaan AI.

UNESCO sedang bekerja dengan 193 negara anggotanya untuk meletakkan dasar etika untuk mengatur teknologi. September lalu, ia merilis draf "Rekomendasi tentang Etika Kecerdasan Buatan". Laporan akhir diharapkan dapat dipresentasikan pada Konferensi Umum UNESCO akhir tahun ini.

Pada bulan Desember, Kementerian Sains dan Informasi, Teknologi Komunikasi Korea Selatan merilis "Pedoman Etika AI Nasional", sebuah dokumen yang menjabarkan standar dasar untuk orang-orang yang terlibat dalam pengembangan dan penerapan AI. Dikatakan AI harus "dikembangkan dan digunakan sesuai dengan tujuan dan niatnya sebagai alat untuk kehidupan manusia, dan proses itu juga harus etis".

Pada bulan yang sama, kementerian merilis apa yang disebut peta jalan untuk undang-undang AI, yang mengusulkan untuk memperluas hak kekayaan intelektual Korea Selatan di luar karya yang dibuat oleh manusia kepada investor dan penemu di balik kreasi AI.

Chief Technology Officer Supertone Heo Hoon mengatakan dia mendukung hukum untuk mengatur industri. Dia mengatakan untuk mengurangi risiko saat ini, perusahaan tidak berurusan langsung dengan publik, lebih memilih untuk bekerja dengan bisnis yang memiliki etika yang sama.

“Kami sangat menyadari kemungkinan teknologi kami disalahgunakan saat berada di tangan publik,” kata Heo. "Saya pikir menghidupkan kembali suara almarhum akan membawa reaksi, yang diharapkan akan memulai debat sosial dan secara meyakinkan mengarah pada undang-undang."

Perusahaan telah membangun tingkat perlindungan pada rekamannya dengan menandai audio yang diproduksi oleh AI-nya, meskipun pendengar biasa kemungkinan tidak mengetahuinya.

“Kami memiliki teknologi watermarking, yaitu informasi yang ditanam dalam audio, yang tidak dapat didengar, tetapi melacak di mana itu dibuat dan bagaimana itu didistribusikan,” kata Heo.

Pertanyaan tentang kepemilikan
Penggunaan AI untuk menciptakan karya yang secara tradisional dihasilkan oleh kreativitas manusia menimbulkan masalah kepemilikan. Jika AI yang menciptakan karya, apakah program tersebut memegang hak ciptanya, atau apakah itu milik pemrogram?

Pengacara Ko Hwan-kyoung, seorang ahli dalam AI dan perlindungan data, mengatakan masalah ini perlu ditangani karena AI menjadi lebih maju.

"Yang menarik dari AI adalah AI berkembang ke tingkat di mana ia dapat menulis dan menulis dengan mempelajari data," kata Ko.

Tahun lalu, penyanyi Hayeon merilis "Eyes on You," sebuah single yang dibuat oleh program AI. Produser manusia kemudian menyempurnakan lagu tersebut, menurut label rekamannya, Enterarts.

Di tempat lain, AI telah digunakan untuk membuat berita, buku, dan bahkan seni. Biasanya, kreator dianggap memiliki karya tersebut, tetapi dalam kasus AI kurang jelas.

“Apakah kita akan mengakui AI sebagai badan hukum dengan badan hukum seperti manusia, dan memberikan hak cipta?” Ko, sang pengacara, bertanya. “Kami membutuhkan regulasi yang menjamin keselamatan manusia, bukan regulasi berlebihan yang menghalangi perkembangan teknologi AI.”

Dalam kasus Kim Kwang-seok, produser Nam mengatakan SBS memperoleh persetujuan dari keluarga Kim untuk mereproduksi suaranya sebelum melanjutkan pertunjukan.

SBS membayar biaya satu kali kepada keluarganya karena menampilkan suaranya di acara itu, seperti yang mereka lakukan dengan anggota pemeran lainnya, kata Nam. Beberapa bagian dari acara tersebut akan dipublikasikan di YouTube setelah ditayangkan, tetapi baik SBS maupun Supertone tidak berencana untuk merilis lagu Kim sebagai single.

“Kami setuju untuk tidak secara resmi merilis lagu-lagu yang diperkenalkan dalam pertunjukan itu,” kata Choi dari Supertone.

Jadi untuk saat ini, penggemar Kim harus puas dengan memutar lagu-lagu lama yang direkam oleh penyanyi aslinya di mikrofon lebih dari 20 tahun yang lalu.