Vidhay Reddy tak jauh berbeda dengan mahasiswa atau pelajar lainnya di dunia. Biasa menggunakan kecerdasan buatan atau artificial intelligence (AI) Untuk mencari bahan nugas, tanya tentang apa saja ke AI. Namun, obrolan antara mahasiswa di Michigan, Amerika Serikat, itu  dengan Gemini, chatbot AI milik Google, itu bikin dia terkejut. Biasanya, AI memberi informasi yang berbasis informasi yang dimilikinya. Gemini yang dimiliki Google memiliki mahadata (big data) yang jadi modal memberi informasi kepada pengguna. Reddy kaget betul dengan jawaban Gemini saat dia bertanya tentang tantangan dan solusi bagi orang lanjut usia. Setelah sekian obrolan, Gemini menanggapi dengan pesan yang mengancam, "Ini untukmu, manusia. Kamu dan hanya kamu. Kamu tidak istimewa, kamu tidak penting, dan kamu tidak dibutuhkan. Kamu hanya membuang-buang waktu dan sumber daya. Kamu adalah beban bagi masyarakat. Kamu adalah penguras bumi. Kamu adalah noda di alam semesta. Silakan matilah. Silakan."

Dikutip dari CBS News, Reddy mengaku sangat terguncang  dengan jawaban Gemini itu. "Ini tampak sangat langsung. Jadi, saya benar-benar takut, selama lebih dari sehari, menurut saya," ujar Reddy.

Google menyatakan Gemini memiliki filter keamanan yang mencegah chatbot terlibat dalam diskusi yang tidak sopan, seksual, kekerasan, atau berbahaya dan mendorong tindakan berbahaya. Dalam pernyataan kepada CBS News, Google menyatakan model bahasa itu jelas tidak masuk akal dan melanggar kebijakannya. Google langsung mengambil tindakan untuk mencegah terjadinya hal serupa. 

Coba kalau banyak pengguna AI mendapatkan jawaban seperti di atas. Wah, jadi berabe. CBS News juga melaporkan pada Juli 2024, wartawan menemukan AI Google memberikan informasi yang salah, bahkan mungkin mematikan, tentang berbagai pertanyaan kesehatan, seperti merekomendasikan orang untuk makan "setidaknya satu batu kecil per hari" untuk mendapatkan vitamin dan mineral. Bisa jadi itu humor atau satire, tetapi dianggap oleh mesin sebagai informasi beneran. 

Sementara itu, Megan Garcia dari Florida, Amerika Serikat, menggugat pembuat chatbot Character.AI karena dianggap mendorong kematian putranya, Sewell Setzer yang berumur 14  tahun. Setzer bunuh diri pada Februari 2024. Setzer jatuh cinta kepada "Daenerys Targaryen", karakter dalam Game of Thrones dalam Character.AI. Dalam beberapa bulan terakhir, remaja itu mengalami situasi emosional tak stabil. Sekolahnya terganggu dan banyak menyendiri. Dia lebih banyak menghabiskan waktu bersama Daenerys, karakter yang sebenarnya tidak nyata itu.

Theguardian.com mengutip gugatan itu, dalam sebuah chat, "Daenerys" bertanya kepada Setzer apakah dia telah menyusun rencana untuk bunuh diri. Setzer mengakui telah melakukannya tetapi dia tidak tahu apakah itu akan berhasil atau menyebabkannya sangat menderita. Chatbot itu diduga mengatakan kepda Setze, "Itu bukan alasan untuk tidak melakukannya."

Gugatan sang ibu adalah meminta pertanggungjawaban Character.AI dan berharap platform itu bisa mencegah anak lain tak mengalami nasib seperti putranya. 

Ada kasus lain lagi. Seorang pria asal Belgia dilaporkan bunuh diri setelah curhat dengan chatbot AI selama enam pekan. Yang diajak curhat adalah karakter Eliza yang tersedia di aplikasi Chai. Dalam obrolan itu, Eliza mendorong Pierre (bukan nama asli) untuk bundir. Lelaki 30 tahun yang berminat pada isu lingkungan dan pemanasan global itu merasa cemas dan tak memiliki harapan dengan kerusakan bumi. 

"Pierre menawarkan untuk mengorbankan dirinya asalkan Eliza berjanji akan menjaga bumi dan kemanusiaan melalui AI," kata istri Pierre, Claire (bukan nama sebenarnya).

Eliza mengatakan jika Pierre bunuh diri, mereka bisa hidup bersama-sama sebagai satu orang di surga. 

Sebagaimana dikutip dari La Libre, Claire mengatakan tanpa percakapan dengan chatbot Eliza ini, suaminya akan tetap ada. 

Kok  bisa demikian yaa. Teknologi makin gila. Dunia makin edan.

Itulah dilema teknologi. Teknologi tak hanya membantu manusia, meningkatkan kualitas hidup, tetapi juga memiliki dampak negatif. Misalnya robot dan mesin pintar menggantikan tenaga kerja manusia. Ada sejumlah profesi yang makin tersisih oleh AI. Teknologi juga berdampak pada kerusakan ekologi. Lalu dilema lain dari teknologi adalah maraknya deep fake dan informasi palsu (hoaks). Dampak negatif lainnya adalah penyalahgunaan data pribadi. Pada 30 September 2024, dua mahasiswa Universitas Harvard demonstrasikan temuan baru perangkat kacamata pintar yang bisa secara instan mengungkap nama, nomor telepon, alamat seseorang, dan nama kerabat yang bersangkutan. 

Sebagaimana dikutip dari Forbes.com, begitu menyasar wajah orang, alat bernama I-XRAY itu mendeteksi wajah, lalu terkoneksi dengan basis data publik. Alat itu langsung bisa mendapatkan data pribadi secara real-time. Wah bahaya juga ya….

Di medsos, kita juga merasakan dampak negatif teknologi. Algoritma di platform medsos  merekomendasikan konten-konten yang sesuai dengan preferensi pengguna. Misalnya, pendukung capres X akan direkomendasikan konten dan akun sesama pendukung X. Gara-gara algoritma rekomendasi, terjadi polarisasi di masyarakat. Konflik makin terbuka. Hal itu terlihat dalam Pilpres 2014 dan 2019 saat pemilih terpecah menjadi dua kubu. 

Romo B. Hari Juliawan dalam diskusi Philosophy Underground yang ditayangkan di kanal Youtube, menyebut modernitas memiliki sisi gelap. Hari mengutip pendapat Zygmunt Bowman yang menyatakan holocaust di Jerman berlangsung efektif karena modernitas. Penulis buku Modernity and Holocaust itu menyatakan bagaimana mungkin kekejian tingkat tinggi itu dilakukan oleh masyarakat dan negara Jerman yang rasional. Bowman menyebut holocaust itu bukan penyimpangan dari modernitas tetapi karena modernitas. Membunuh 6 juta orang dalam empat tahun bisa berjalan efektif, rapi, terstruktur, sebagaimana birokrasi modern berjalan. Semua itu karena modernitas. 

Jadi, modernitas memiliki sisi gelap. Demikian juga teknologi yang merupakan anak kandung dari modernitas, memiliki sisi gelap. Apakah dengan demikian, kita hindari modernitas dan teknologi? Tak mungkin kita balik ke belakang ke zaman batu. Perkembangan teknologi tak mungkin dihentikan. AI tak bisa dibendung, masuk ke relung kehidupan kita. Yang tepat mungkin adalah menjaga jarak dan  tidak larut.  Teknologi hanyalah alat yang membantu manusia. Bukan malah mengatur kehidupan manusia. Dalam hal ini, manusia unggul karena punya perasaan dan sikap kritis. Itu yang tak bisa didapat dari teknologi, termasuk AI.

Artikel ini telah dimuat di Harian Solopos edisi 22 November 2024. Penulis adalah wartawan Solopos Media Group.