Lebih dari setahun yang lalu kami mempublikasikan Di sini di LXA ada artikel tentang halusinasi Kecerdasan Buatan. Mereka berbahaya, jika kita memahaminya sebagai pemborosan waktu atau fakta bahwa kita mungkin memperoleh informasi palsu. Saat kami menanyakan sesuatu yang tidak bisa mereka dapatkan dengan cepat dari basis data, mereka bisa menjawab apa saja, dan itu belum membuat saya lebih baik di tahun 2025, yang sudah kita jalani dengan baik.
Ini baru-baru ini menjadi populer Pencarian Mendalam, kecerdasan buatan yang datang kepada kita dari Tiongkok dan dapat menawarkan hasil yang serupa dengan ChatGPT atau bahkan menyempurnakannya. Namun AI terbaik ini didapatkan jika kita mengaktifkan opsi berpikir lebih dalam, alasan atau apa pun mereka menyebutnya dalam model yang dimaksud. Jika tidak, mereka semua cenderung gagal pada hal yang sama: merespons dengan cepat terlepas dari apa yang mereka katakan benar atau tidak.
Halusinasi baru kecerdasan buatan
Kadang-kadang, saya menghabiskan waktu bermain dengan Dek Uap Saya. Saya baru saja menyelesaikan permainan dasar Borderlands The Presequel, dan saya tidak begitu mengerti akhir ceritanya (peringatan spoiler): Lilith meninju Handsome Jack... dari mana asal Lilith? Saya bertanya pada ChatGPT, dan saya bahkan tidak ingat apa yang dia katakan kepada saya. Kalau aku ingat, aku ingat, maaf kalau berlebihan, sendiri bahwa aku mengejar pemain kita dengan memanfaatkan kemampuan tembus pandangnya. Lalu saya lanjutkan, Handsome Jack punya engsel di wajahnya dan dia tidak bisa mengenali kalau itu topeng.
Tetapi yang terburuk adalah ketika saya bertanya di mana saya harus pergi untuk memainkan ekspansi Claptrap Voyage. Apa yang kamu lihat di sini, apa yang kamu lihat di sana, apa… Ketika mencari di Internet saya menemukan bahwa saya harus pergi ke lantai 13/2 atau semacamnya (saya tidak ingat namanya sekarang), sesuatu yang dapat kita lakukan dari perjalanan singkat.
Untuk memiliki dasar yang lebih kuat bagi artikel ini, saya berpikir untuk menanyakan hal yang sama kepada ChatGPT, tetapi dengan alasan, sesuatu yang juga telah saya lakukan di DeepSeek. DeepSeek benar pada percobaan pertama, sementara ChatGPT memberi saya dua pilihan, satu benar dan yang lainnya menyangkal adanya perluasan dalam The Presequel yang terkait dengan Claptrap. Saya memilih opsi itu untuk melihat apakah itu akan memperbaikinya… tetapi tidak.
Apakah Anda menginginkan presisi?
ChatGPT adalah yang terpopuler saat ini, dan digunakan oleh kebanyakan orang. Bila kita ingin ia bernalar, kita harus menghadapi dua masalah: yang pertama adalah dibutuhkan waktu 20-40 detik untuk mulai memberikan jawaban, dan yang kedua adalah bahwa penalaran bebas hanya mungkin dilakukan beberapa kali dalam sehari; Jika batasnya terlampaui, mereka tidak lagi berfungsi dan kita terpaksa menggunakan model berbayar. Di samping itu, Pencarian Mendalam Dia selalu bisa berpikir, tapi kadang-kadang dia buntu dan tidak berhasil.
Jadi, kita harus membayar, atau menunggu, atau kita beruntung.
Meski begitu, halusinasi mengenai Kecerdasan Buatan masih menjadi hal yang umum, dan saya pikir hal ini perlu diingat guna mencegah siapa pun menganggap remeh informasi yang mereka berikan kepada kita.
Bagaimana kalau kita mencari?
Apa yang mungkin bermanfaat adalah tidak membiarkan model default merespons kita. Dialah orang yang paling banyak gagal, yang paling "cuñao", yaitu orang yang paling banyak menjawab hanya demi menjawab, entah dia tahu jawabannya atau tidak. Model-model ini memberikan jawaban tentang apa yang telah mereka pelajari, dan jika mereka belum mempelajarinya, mereka mencoba menyelesaikan keraguan kita dengan menciptakan hubungan-hubungan yang biasanya tidak memberikan hasil yang baik. Hal-hal berubah jika kita menekan tombol pencarian atau penalaran.
Jika kita memintanya untuk mencari, itulah yang akan dilakukannya. Ia akan menganalisis apa yang ditemukannya dan menunjukkan kepada kita hasil yang dapat kita lihat sebagai ringkasan pencarian yang akan kita lakukan. Pilihan untuk bernalar akan mencegah Anda mengatakan omong kosong pertama yang terlintas dalam pikiran, meskipun terkadang ChatGPT memberikan alasan untuk memperburuk keadaan.
Kecerdasan Buatan terus berkembang, tetapi jika kita tidak memanfaatkannya dengan baik, ia akan terus membingungkan kita daripada membantu kita.