Peneliti AI Ini Beri Peringatan Bagi Kita yang Menggunakan Agen Otonom untuk Berbelanja

Belanja online sering kali melibatkan pilihan tanpa akhir dan diskon singkat. Satu penelusuran untuk sepatu lari dapat menghasilkan ratusan hasil di berbagai platform, masing-masing menjanjikan “penawaran terbaik”. Musim liburan menghadirkan kegembiraan, namun juga menghadirkan perpaduan antara kelelahan dalam mengambil keputusan dan mimpi buruk logistik.

Bagaimana jika ada alat yang mampu mencari harga terbaik, menavigasi penjualan tanpa akhir, dan memastikan pembelian Anda tiba tepat waktu?

Evolusi berikutnya dalam kecerdasan buatan adalah agen AI yang mampu melakukan penalaran otonom dan pemecahan masalah multi-langkah. Agen belanja AI tidak hanya menyarankan apa yang mungkin Anda sukai, namun mereka juga dapat bertindak atas nama Anda. Pengecer besar dan perusahaan AI sedang mengembangkan asisten belanja AI, dan perusahaan AI Perplexity merilis Beli dengan Pro pada 18 November 2024.

Bayangkan ini: Anda meminta AI untuk menemukan mantel musim dingin di bawah $200 yang berperingkat tinggi dan akan tiba pada hari Minggu. Dalam hitungan detik, ia memindai situs web, membandingkan harga, memeriksa ulasan, mengonfirmasi ketersediaan, dan melakukan pemesanan, semuanya selagi Anda menjalani hari.

Tidak seperti mesin rekomendasi tradisional, agen AI mempelajari preferensi Anda dan menangani tugas secara mandiri. Agen dibuat dengan pembelajaran mesin dan pemrosesan bahasa alami. Mereka belajar dari interaksi mereka dengan orang-orang yang menggunakannya dan menjadi lebih pintar dan efisien seiring berjalannya waktu melalui interaksi kolektif mereka.

Ke depan, agen AI kemungkinan besar tidak hanya menguasai kebutuhan belanja pribadi tetapi juga bernegosiasi langsung dengan sistem AI perusahaan. Mereka tidak hanya akan mempelajari preferensi Anda tetapi kemungkinan besar akan dapat memesan pengalaman yang disesuaikan, menangani pembayaran lintas platform, dan mengoordinasikan jadwal.

Sebagai peneliti yang mempelajari kolaborasi manusia-AI, saya melihat bagaimana agen AI dapat membuat masa depan belanja menjadi lebih mudah dan lebih personal dibandingkan sebelumnya.

Bagaimana agen AI membantu pembeli

Pasar seperti Amazon dan Walmart telah menggunakan AI untuk mengotomatisasi belanja. Google Lens menawarkan alat pencarian visual untuk menemukan produk.

Beli dengan Pro dari Perplexity adalah agen belanja AI yang lebih kuat. Dengan memberikan informasi pengiriman dan penagihan, Anda dapat melakukan pemesanan langsung di aplikasi Perplexity dengan pengiriman gratis untuk setiap pesanan. Asisten belanja adalah bagian dari layanan Perplexity Pro perusahaan, yang memiliki tingkatan gratis dan berbayar.

Bagi mereka yang ingin membuat agen belanja AI khusus, AutoGPT dan AgentGPT adalah alat sumber terbuka untuk mengonfigurasi dan menerapkan agen AI.

Konsumen saat ini berfokus pada nilai, mencari penawaran, dan membandingkan harga di berbagai platform. Memiliki asisten yang melakukan tugas-tugas ini bisa sangat menghemat waktu. Namun bisakah AI benar-benar mempelajari preferensi Anda?

Sebuah studi terbaru yang menggunakan model GPT-4o mencapai akurasi 85% dalam meniru pikiran dan perilaku lebih dari 1.000 orang setelah mereka berinteraksi dengan AI hanya selama dua jam. Temuan terobosan ini menunjukkan bahwa persona digital dapat memahami dan bertindak berdasarkan preferensi masyarakat dengan cara yang akan mengubah pengalaman berbelanja.

Bagaimana belanja AI membentuk kembali bisnis

Agen AI beralih dari sekadar rekomendasi menjadi menjalankan tugas kompleks secara mandiri seperti mengotomatiskan pengembalian dana, mengelola inventaris, dan menyetujui keputusan penetapan harga. Evolusi ini telah mulai mengubah cara bisnis beroperasi dan cara konsumen berinteraksi dengan mereka.

Pengecer yang menggunakan agen AI merasakan manfaat yang terukur. Sejak Oktober 2024, data dari indeks belanja Salesforce mengungkapkan bahwa pengecer digital yang menggunakan AI generatif mencapai peningkatan pendapatan pesanan rata-rata sebesar 7% dan mengaitkan 17% pesanan global dengan rekomendasi personalisasi berbasis AI, promosi bertarget, dan peningkatan layanan pelanggan.

Sementara itu, sifat pencarian dan periklanan sedang mengalami perubahan besar. Amazon memperoleh pendapatan iklan miliaran dolar karena pembeli melewati Google untuk melakukan pencarian langsung di platformnya. Pada saat yang sama, alat pencarian yang didukung AI seperti Perplexity dan obrolan berbasis web OpenAI memberikan respons instan dan peka konteks, menantang mesin pencari tradisional dan memaksa pengiklan untuk memikirkan kembali strategi mereka.

Hasil dari pertarungan antara Big Tech dan inisiatif sumber terbuka untuk membentuk ekosistem AI juga kemungkinan besar akan memengaruhi perubahan pengalaman berbelanja.

Menimbang Risikonya

Meskipun agen AI menawarkan manfaat yang signifikan, mereka juga menimbulkan masalah privasi yang penting. Sistem AI memerlukan akses luas ke data pribadi, riwayat belanja, dan informasi keuangan. Tingkat akses ini meningkatkan risiko penyalahgunaan dan pembagian tanpa izin.

Manipulasi adalah masalah lain. AI bisa sangat persuasif dan dapat dioptimalkan untuk melayani kepentingan perusahaan dibandingkan kesejahteraan konsumen. Teknologi tersebut dapat memprioritaskan peningkatan penjualan atau mendorong pembeli ke produk dengan margin lebih tinggi dengan kedok personalisasi.

Ada juga risiko ketergantungan. Mengotomatiskan banyak aspek belanja dapat mengurangi kepuasan dalam membuat pilihan. Penelitian mengenai interaksi manusia-AI menunjukkan bahwa meskipun alat AI dapat mengurangi beban kognitif, peningkatan ketergantungan pada AI dapat mengganggu kemampuan manusia untuk mengevaluasi pilihan mereka secara kritis.

Apa selanjutnya?

Belanja berbasis AI masih dalam tahap awal, jadi seberapa besar kepercayaan yang harus Anda berikan terhadapnya?

Dalam buku kami “Converging Minds,” peneliti AI Aleksandra Przegalinska dan saya menganjurkan pendekatan yang seimbang dan kritis terhadap adopsi AI, dengan menyadari potensi dan kelemahannya.

Seperti yang ditunjukkan oleh ilmuwan kognitif Gary Marcus, keterbatasan moral AI berasal dari kendala teknis: Meskipun ada upaya untuk mencegah kesalahan, sistem ini tetap tidak sempurna.

Perspektif hati-hati ini tercermin dalam tanggapan dari kelas MBA saya. Ketika saya bertanya kepada siswa apakah mereka siap untuk mengalihkan belanja liburan mereka ke AI, jawabannya adalah tidak. Ethan Mollick, seorang profesor di Wharton School di Universitas Pennsylvania, berpendapat bahwa penerapan AI dalam kehidupan sehari-hari akan dilakukan secara bertahap, karena perubahan masyarakat biasanya tertinggal dari kemajuan teknologi.

Sebelum masyarakat bersedia menyerahkan kartu kredit mereka dan membiarkan AI mengambil kendali, dunia usaha harus memastikan bahwa sistem AI selaras dengan nilai-nilai dan prioritas kemanusiaan. Potensi AI sangat besar, namun untuk memenuhi janji tersebut, saya percaya bahwa AI perlu menjadi perpanjangan dari niat manusia – bukan penggantinya.

Artikel ini awalnya diterbitkan pada Percakapan oleh Tamilla Triantoro di Universitas Quinnipiac. Baca artikel asli di sini.