Setelah bekerja menggunakan AI untuk hampir semua hal terkait kerjaan, ya koding, ya planning, ya ngobrol, ya bener AI membantu banyak hal. Tapi semakin didalami rasanya ada banyak hal yang terlepas atau bahkan salah dari hasil output AI. Ya bener, provider biasanya sudah kasi keterangan output AI bisa jadi salah dan tidak 100% benar, jadi masalah karena pengguna tidak tau mana bagian yang salah.
Untuk hal koding masih mending, saya masih membaca ulang untuk konfirmasi bahwa kode yang dihasilkan sejalan dengan visi saya dan tidak membuat bug atau permasalahan, dan ketika melenceng, hasilnya tidak sesuai atau malah potensi error, dan itu sering terjadi, saya bisa betulkan.
Tapi untuk hal lain seperti discussion dan planning, ini agak bermasalah. Apalagi kalau outputnya panjang sekali dengan semua segala hal yang dibahas.
Contoh untuk melakukan planning menggunakan SpecKit atau BMAD, itu outputnya saya akui detail, serasa seperti sudah mencakup semua hal. saya pakai teks miring untuk bagian “serasa” karena memang ya terlihat detail dibaca pun sudah lengkap, tapi masalahnya karena cukup detail kadang jadi yang baca mengalami kejenuhan dan melewatkan beberapa hal karena dianggap “sebagian valid, maka sebagian lain pasti cukup valid”, ini logika bahaya.
Jadi lebih bahaya ketika reviewer alias orang yang ditugaskan untuk melakukan review memeriksa hasil kerja author yang menggunakan AI untuk membuat dokumen, mereka menganggap AI sudah mencakup semuanya dan ada Author yang juga sudah memvalidasi, jadinya Reviewer merasa cukup aman tanpa memeriksa lebih hati-hati.
Ada konfirmasi bias disini karena mengganggap semua orang sudah melakukan tugasnya dengan baik, di dunia ideal memang AI memberikan hasil yang baik, Author memvalidasi yang baik, Reviewer juga sudah memeriksa ulang dengan baik. Tapi kenyataanya AI memberikan output yang hampir 100% benar, author tidak menyadari dimana letak kesalahan, reviewer merasa aman sudah ada 2 level proses sebelum dia, terus belakangan hasilnya kacau.
Gak usah jauh-jauh lingkup kerjaan, untuk lingkup personal aja, tidak sedikit orang yang ambil hasil output ChatGPT mentah-mentah. Sekali lagi pengguna sudah tau hasilnya tidak 100% benar, tapi tidak tau dimana letak yang salah, jadi ya ambil semua lalu ditambahkan “gak tau juga sih bener gak”, dan sudah gitu karena gak tau mana yang salah jadi tidak melakukan pengecekan ulang untuk memvalidasi.
Ini bahaya banget karena pada dasarnya pengguna jadi tidak begitu punya kontrol terhadap apa yang dikonsumsi, semua informasi ditelan mentah-mentah dan menggap informasi yang diterima benar, padahal dikarenakan tidak mengetahui dan tidak memvalidasi bahwa informasi yang ditelan adalah salah.