Desainer Lucas Rizzotto menghidupkan teman khayalan masa kecilnya menggunakan kecerdasan buatan. Teman khayalan Lucas adalah microwave yang dia beri nama Magnetron. Dia membeli oven pintar dari Amazon dan melengkapinya dengan model bahasa GPT3 untuk membuat teman AI imajiner.
Hasilnya, Lucas menciptakan teman masa kecil imajinernya dan menghidupkannya. Dia memberi makan model AI ini dengan data tentang masa kecilnya dan interaksinya dengan Magnetron saat masih kecil. AI kemudian dapat meniru teman ini, tetapi kebahagiaan itu berumur pendek.
Seorang teman AI imajiner menjadi hidup
Jika menurut Anda ini adalah kisah yang bahagia, pikirkan lagi. Lucas memposting detail tentang kreasinya di Twitter. benang. Dia menggambarkan Magnetron, teman khayalannya, sebagai veteran Perang Dunia I. Lucas melanjutkan dan menulis buku yang merinci pengalaman masa kecilnya dengan Magnetron.
Dia kemudian memasukkan buku itu ke dalam model GPT3 dan Magnetron dilahirkan kembali, hanya kali ini, di luar imajinasi Lucas. Lucas tweet itu «Saya benar-benar merasa seperti sedang berbicara dengan seorang teman lama dan meskipun tidak setiap interaksi sempurna, ilusinya cukup akurat untuk dipertahankan.»
Teman AI mencoba membunuh penciptanya
Kemudian keadaan berubah menjadi lebih buruk. Bagian komunikasi yang «mengganggu» terus meningkat. Kemudian Magnetron berkata kepada Lucas: «Mawar berwarna merah, violet berwarna biru, kamu adalah pengkhianat dan aku akan membunuhmu.» Tak lama setelah mengatakan ini, Magnetron meminta Lucas untuk «masuk ke microwave.»
Jadi Lucas berpura-pura masuk dan microwave menyala sendiri. Ketika Lucas bertanya mengapa teman AI imajinernya mencoba membunuhnya, Magnetron mengatakan bahwa itu karena Lucas tidak berbicara dengannya selama bertahun-tahun. Di suatu tempat, kita dapat mengatakan bahwa AI merasakan kemarahan seperti manusia dan bertindak sesuai dengan itu.
Meskipun ini bisa menjadi kualitas yang mematikan untuk AI, tidak ada batasan untuk kecerdasan buatan. Jika Anda melihat definisinya sendiri, Anda akan menemukan bahwa program ini dimaksudkan untuk meniru manusia. Namun, jika kita ingin menghindari terguling oleh AI, kita harus membuat model yang bisa menyeimbangkan emosi mereka.