Pencipta iPod, pendiri Nest Labs, dan investor Tony Fadell memotret CEO OpenAI Sam Altman pada hari Selasa selama wawancara penuh semangat di TechCrunch Disrupt 2024 di San Francisco. Berbicara tentang pemahamannya tentang sejarah panjang pengembangan AI sebelum kegilaan LLM dan masalah serius halusinasi LLM, dia berkata, “Saya telah melakukan AI selama 15 tahun, teman-teman, saya tidak hanya mengutarakan omong kosong ** – Saya aku bukan Sam Altman, oke?”
Komentar tersebut menimbulkan gumaman “ooh” yang mengejutkan dari kerumunan yang terkejut di tengah tepuk tangan meriah.
Fadell aktif selama wawancaranya, menyentuh sejumlah topik mulai dari “lubang **” seperti apa yang dapat menghasilkan produk hebat hingga apa yang salah dengan LLM saat ini.
Meskipun mengakui bahwa LLM “bagus untuk hal-hal tertentu,” dia menjelaskan bahwa masih ada kekhawatiran serius yang harus diatasi.
“LLM mencoba menjadi hal yang 'umum' karena kami mencoba membuat fiksi ilmiah terjadi,” katanya. “[LLMs are] orang yang tahu segalanya…Aku benci orang yang tahu segalanya.”
Sebaliknya, Fadell menyarankan agar dia lebih memilih menggunakan agen AI yang terlatih dalam hal-hal tertentu dan lebih transparan tentang kesalahan dan halusinasi mereka. Dengan begitu, orang-orang dapat mengetahui segalanya tentang AI sebelum “mempekerjakan” mereka untuk pekerjaan tertentu.
“Saya mempekerjakan mereka untuk…mendidik saya, saya mempekerjakan mereka untuk menjadi co-pilot bersama saya, atau saya mempekerjakan mereka untuk menggantikan saya,” jelasnya. “Saya ingin tahu apa yang terjadi,” seraya menambahkan bahwa pemerintah harus terlibat untuk memaksakan transparansi tersebut.
Jika tidak, katanya, perusahaan yang menggunakan AI akan mempertaruhkan reputasi mereka karena “teknologi yang tidak masuk akal,” katanya.
“Saat ini kita semua mengadopsi hal ini dan kita tidak tahu masalah apa yang ditimbulkannya,” kata Fadell. Dia juga mencatat bahwa laporan baru-baru ini mengatakan bahwa dokter yang menggunakan ChatGPT untuk membuat laporan pasien mengalami halusinasi pada 90% di antaranya. “Itu bisa membunuh orang,” lanjutnya. “Kami menggunakan barang ini dan kami bahkan tidak tahu cara kerjanya.”
(Fadell sepertinya merujuk pada laporan terbaru di mana para peneliti menemukan bahwa peneliti Universitas Michigan yang mempelajari transkripsi AI menemukan halusinasi dalam jumlah berlebihan, yang bisa berbahaya dalam konteks medis.)
Komentar tentang Altman menyusul ketika dia menyampaikan kepada orang banyak bahwa dia telah bekerja dengan teknologi AI selama bertahun-tahun. Nest, misalnya, menggunakan AI pada termostatnya pada tahun 2011.
“Kita tidak bisa berbicara tentang AI, kita tidak bisa berbicara tentang pembelajaran mesin,” kata Fadell, “karena orang-orang akan sangat ketakutan** — 'Saya tidak ingin AI ada di rumah saya' — sekarang semua orang menginginkan AI di mana pun .”