Kehadiran teknologi digital awalnya diciptakan untuk membantu manusia menyelesaikan berbagai persoalan kehidupan. Namun, perkembangan kecerdasan buatan dan algoritma justru memunculkan paradoks baru.
SUARAMILENIAL.ID, JAKARTA — Kehadiran teknologi digital awalnya diciptakan untuk membantu manusia menyelesaikan berbagai persoalan kehidupan. Namun, perkembangan kecerdasan buatan dan algoritma justru memunculkan paradoks baru.
Manusia yang menciptakan mesin pintar untuk membantu pekerjaan dan pengambilan keputusan, perlahan dapat bergantung pada sistem tersebut. Algoritma yang semula menjadi alat bantu kemudian ikut menentukan cara manusia berpikir, memilih, dan berperilaku.
Hal itu disampaikan Ketua Dewan Pers Komaruddin Hidayat dalam tulisannya berjudul “Algo Sapiens: Ketika Manusia Dikendalikan Mesin”.
Menurut Komaruddin, manusia menciptakan algoritma untuk membantu menganalisis berbagai persoalan. Namun, dalam perkembangannya, keputusan manusia justru semakin banyak diserahkan kepada algoritma.
Kecerdasan buatan yang awalnya dirancang untuk membantu kinerja otak dan pikiran manusia berpotensi berubah menjadi sandaran yang menggantikan proses berpikir tersebut.
Dari kondisi itu muncul istilah algo sapiens, yakni manusia yang secara biologis tetap manusia, tetapi kebiasaan dan cara berpikirnya semakin dipengaruhi sistem algoritmik.
“Algo sapiens bukanlah manusia yang berubah menjadi robot,” tulis Komaruddin.
Ia menjelaskan, algo sapiens tetap memiliki tubuh biologis, emosi, keinginan, agama, keluarga, dan kehidupan sosial. Namun, semakin banyak keputusan dalam kehidupannya yang dipengaruhi sistem algoritma.
Mulai dari apa yang dibaca, video yang ditonton, barang yang dibeli, informasi yang dipercaya hingga hal-hal yang dianggap penting, semuanya dapat dipengaruhi rekomendasi digital.
Kekuasaan lewat algoritma
Komaruddin menjelaskan, bentuk kekuasaan pada era digital berbeda dengan kekuasaan konvensional.
Jika kekuasaan lama bekerja melalui perintah secara langsung, teknologi digital dapat memengaruhi manusia melalui rekomendasi yang terlihat seperti pilihan pribadi.
Sistem seolah mengatakan bahwa teknologi memahami kebutuhan penggunanya dan kemudian menawarkan pilihan yang dianggap sesuai.
Pemikiran tersebut, menurut Komaruddin, berkaitan dengan gagasan Shoshana Zuboff dalam buku The Age of Surveillance Capitalism (2018).
Zuboff menjelaskan bagaimana pengalaman manusia di ruang digital dapat dikumpulkan menjadi data perilaku. Data tersebut kemudian diproses untuk memprediksi tindakan seseorang, baik dalam waktu dekat maupun masa mendatang.
Aktivitas sehari-hari seperti mencari informasi di internet, menggunakan media sosial, berbelanja daring, menonton video hingga menggunakan telepon pintar menghasilkan jejak data.
Semakin banyak data yang dikumpulkan, semakin besar kemampuan sistem dalam membaca pola perilaku seseorang.
Menurut Komaruddin, proses tersebut dapat dilihat melalui tahapan pengawasan, prediksi, intervensi hingga perubahan perilaku.
Pada awalnya algoritma hanya membaca kebiasaan dan preferensi manusia. Setelah itu, algoritma memprediksi perilaku pengguna dan pada tahap berikutnya dapat ikut membentuk perilaku tersebut.
Ancaman terhadap kebebasan berpikir
Persoalan tersebut juga dikaitkan Komaruddin dengan pemikiran Franklin Foer dalam buku World Without Mind (2017).
Foer tidak hanya menyoroti persoalan privasi, tetapi juga ancaman terhadap otonomi pikiran manusia.
Algoritma dapat memengaruhi cara seseorang memperoleh informasi. Sistem rekomendasi dapat membuat pengalaman informasi menjadi semakin seragam dan mengurangi ruang untuk berpikir secara mandiri serta melakukan kontemplasi.
Seseorang mungkin merasa bebas menentukan informasi yang ingin dibaca atau video yang ingin ditonton. Namun, pilihan tersebut sebenarnya berada dalam lingkungan yang telah disusun oleh algoritma berdasarkan rekam jejak perilaku sebelumnya.
Dengan demikian, manusia tetap memiliki kemampuan untuk memilih. Persoalannya adalah apakah manusia menyadari siapa yang membentuk dan menyediakan pilihan-pilihan tersebut.
Penjara tanpa jeruji
Komaruddin menyebut kondisi itu sebagai bentuk kekuasaan baru yang tidak membutuhkan tembok maupun aparat untuk mengendalikan seseorang.
Kekuasaan algoritmik bekerja dengan mengatur lingkungan pilihan.
Manusia tetap dapat memilih, membaca, menonton, dan membeli sesuatu. Namun, pilihan yang tersedia sebelumnya telah disusun berdasarkan data dan sistem rekomendasi.
“Penjara” dalam konteks ini bukan berupa ruangan dengan jeruji, melainkan lingkungan informasi yang secara tidak terlihat membentuk pilihan manusia.
Masyarakat yang semakin cemas
Di sisi lain, kemajuan teknologi tidak otomatis menghilangkan kecemasan manusia.
Komaruddin mengutip pemikiran Han Byung-chul dalam The Anxious Society. Kehidupan modern digambarkan dipenuhi kecemasan, mulai dari ketakutan gagal, tertinggal, tersingkir hingga kehilangan kendali atas masa depan.
Jika pemikiran Han Byung-chul ditempatkan bersama gagasan Zuboff dan Foer, muncul persoalan mengenai hubungan antara pengawasan teknologi, hilangnya otonomi pikiran, serta kecemasan manusia.
Teknologi digital memang membuat manusia lebih mudah memperoleh informasi. Namun, pada saat yang sama, manusia semakin sulit membedakan informasi yang benar-benar dicari dengan informasi yang terus disodorkan oleh algoritma.
Kemudahan tersebut dapat berubah menjadi kebiasaan dan ketergantungan.
Menurut Komaruddin, ketergantungan terhadap teknologi berpotensi melemahkan kemampuan manusia sebagai homo sapiens. Daya ingat tidak lagi terlatih, kemampuan menganalisis dapat menurun, dan manusia kehilangan pengalaman belajar dari kesalahan.
Padahal, manusia berkembang melalui kemampuan bertanya, melakukan kesalahan, mencari jawaban, dan bertanggung jawab atas pilihannya.
Ketika proses berpikir dan pencarian jawaban semakin banyak diserahkan kepada mesin cerdas, muncul pertanyaan mengenai siapa yang menjadi subyek dan memiliki tanggung jawab moral atas keputusan tersebut.
Komaruddin menegaskan bahwa kecerdasan tidak sama dengan kebijaksanaan.
Secanggih apa pun teknologi, algoritma bekerja berdasarkan pola dari data masa lalu untuk memprediksi masa depan. Sementara manusia memiliki kemampuan untuk memutus pola tersebut.
Manusia dapat merenung, meragukan, membayangkan, berempati, berharap, bertobat, dan secara sadar memilih jalan hidup yang baru.
Karena itu, persoalan terbesar dari perkembangan algoritma bukan hanya mengenai hilangnya privasi.
Jika manusia kehilangan kemampuan untuk berpikir, merenung, memilih, dan menentukan makna hidupnya secara sadar, yang dipertaruhkan adalah esensi kemanusiaan itu sendiri.
