Temui Diem, 'mesin pencari sosial' bertenaga AI yang dimaksudkan untuk merasa seperti obrolan kelompok teman Anda

Misalnya, katakanlah Anda ingin tahu tentang berapa biaya untuk membekukan telur Anda. Anda akan mengetikkan pertanyaan itu ke Diem, dan komponen AI akan memanfaatkan database internet yang lebih luas dan konten yang dikontribusikan pengguna diem untuk menghasilkan jawaban satu kalimat dan yang lebih lama. Dan Anda akan menerima keduanya, di samping semua posting yang dihasilkan komunitas tentang topik tersebut, jika Anda tertarik untuk menggulirnya.

Dengan cara ini, Diem menggabungkan kemudahan AI dengan personalisasi pengetahuan dari wanita yang sebenarnya dan orang-orang non-biner-informasi anekdotal dan pengalaman hidup dan kehidupan gosip Seringkali deprioritisasi oleh mesin pencari karena bias (lebih lanjut tentang itu di bawah). Kombinasi itu, kata Bates, yang membuat informasi tentang Diem bermanfaat dan langsung berlaku untuk orang -orang dari komunitas ini. “Cara kami selalu berpikir tentang membangun adalah, 'Bagaimana kami bisa menciptakan ruang di mana Anda bisa mencari wawasan kolektif dari komunitas Anda?'" dia berkata. “Jika Anda dapat membangun secara kolektif dengan komunitas Anda, itu membentuk suara, data, dan pengalaman, dan akhirnya merasa berbeda."

Masalah bias gender pada mesin pencari dan platform AI

Karena bias gender lazim di masyarakat secara keseluruhan, ia juga ada dalam algoritma mesin pencarian internet, dan memicu kesenjangan informasi gender. Ini adalah celah yang sama dengan yang dihadapi Bates ketika mencoba menemukan informasi yang dapat diterapkan dan terkait tentang pil pagi-setelah tahun 2018.

Sebagai bukti, pertimbangkan hasil studi 2022, yang para peneliti ingin menentukan apakah gambar Google mencari di negara-negara dengan skor kualitas gender yang lebih tinggi (dinilai dengan indeks kesenjangan gender global) juga akan menunjukkan bias gender gender. Untuk melakukannya, mereka melakukan pencarian kata "orang" dalam bahasa lokal dari 37 negara dalam studi pertama mereka dan 52 negara di kedua. Dalam semua kasus, hasil pencarian Google di negara -negara dengan tingkat ketidaksetaraan gender sosial yang lebih besar juga mengungkapkan perbedaan gender yang lebih besar (yang berarti bahwa persentase yang lebih tinggi dari 100 hasil gambar pertama menunjukkan seorang pria versus seorang wanita).

Bot AI baru juga telah ditemukan untuk melanggengkan bias gender. Misalnya, Bloomberg melaporkan bahwa seorang ilmuwan komputasi mendapat chatgpt untuk memuntahkan kode yang mengatakan hanya orang Asia atau kulit putih yang akan menjadi ilmuwan yang baik; CEO perusahaan menanggapi ilmuwan di Twitter, mendorong pengguna untuk "mengacungkan" jawaban seperti itu untuk membantu program belajar untuk tidak menyebarkan bias.

Ketika saya mengajukan chatgpt pertanyaan serupa, dikatakan tidak tepat untuk menggunakan jenis kelamin atau balapan seseorang untuk menentukan apakah mereka akan unggul dalam suatu profesi. Tapi sementara sepertinya AI saat ini belajar menjadi kurang bias, masih mengandalkan pengguna yang obyektif dan penuh kasih untuk melatihnya untuk seperti itu. (Sedangkan AI Diem sebagian besar dilatih pada informasi yang dibuat oleh dan untuk wanita dan orang non-biner, dan dengan demikian tidak tunduk pada masalah bias anti-wanita yang sama dari lompatan.)

"AI hanya sebagus data yang dilatih, dan karena semua manusia memiliki bias dan prasangka, ketika data mereka digunakan, bias dan prasangka menjadi bagian dari AI."-Nina Vasan, MD, psikiater

Temuan ini menggambarkan bagaimana bias yang kami pertahankan sebagai orang yang secara alami mentransfer ke produk yang kami buat dan set data yang kami kontribusikan. "AI hanya sebagus data yang dilatih, dan karena semua manusia memiliki bias dan prasangka, ketika data mereka digunakan, bias dan prasangka menjadi bagian dari AI," kata psikiater Nina Vasan, MD, Kepala Petugas Medis Medis, Platform Terapi Digital Real dan Pendiri dan Direktur Eksekutif Brainstorm: The Stanford Lab untuk Inovasi Kesehatan Mental.

Bagaimana Diem bertujuan untuk menjadi mesin pencari yang menyenangkan dan informatif khusus untuk wanita dan orang non-biner

Mengingat demografi pengguna yang dimaksudkan diem, Bates mengatakan dia memikirkan informasi yang dibagikan di platform dan dihasilkan oleh chatbot sebagai jawaban atas pertanyaan yang dimiliki orang ketika mereka berada di "tahap teman" kehidupan mereka; Orang-orang menyerap banyak informasi dari teman ketika mereka berusia pertengahan dua puluhan dan awal tiga puluhan, katanya. Gagasan dengan Diem adalah bahwa Anda mendapatkan perspektif dari berbagai orang seusia Anda dan identitas gender dengan siapa Anda mungkin tidak berinteraksi, dan bahwa pemahaman kolektif menguntungkan semua orang di platform.

Karena AI Diem diberi informasi langsung dari orang -orang dari demografis ini, ini adalah platform yang representatif dengan desain. Sampai sekarang, ribuan wanita dan orang non-biner telah mengajukan pertanyaan dan berbagi jawaban tentang Diem tentang topik yang relevan bagi mereka, terutama dalam kategori kesehatan pribadi, uang, dan hubungan di mana di mana diem AI paling baik dilatih terlatih terbaik yang terbaik terlatih terbaik terbaik terbaik terbaik terbaik.

Meskipun masih belajar, ia menarik dari dataset berpemilik yang lebih luas (mirip dengan yang memberi kekuatan chatgpt) untuk menemukan informasi tentang pertanyaan yang belum dibahas oleh orang -orang di masyarakat. Namun, suatu titik diferensiasi adalah bahwa ia masih memutar "jawaban diem-y yang diringkas" untuk pertanyaan-pertanyaan ini, kata Bates, menggunakan konvoi diem yang sebenarnya untuk menginformasikan gaya dan nada jawabannya.

Namun, karena Diem masih merupakan AI yang mengandalkan kedua konten yang dibuat pengguna dan dataset yang lebih luas, tentu saja tidak imun untuk masalah yang dihadapi oleh mesin pencari lain dan chatbots AI, termasuk false, menyesatkan, dan, ya, bahkan konten yang bias. Pada gilirannya, ada tombol di dalam aplikasi dan pada versi desktop untuk melaporkan penyalahgunaan, dan platform telah menerbitkan serangkaian pedoman komunitas yang mempromosikan hal-hal seperti "kebaikan dan keingintahuan" dan "keterlibatan empati"-untuk memastikan keamanan penggunanya dan kualitas informasinya.

Diem diluncurkan pada saat pejabat pemerintah di Amerika Serikat dan Uni Eropa sedang mengeksplorasi cara -cara untuk mengatur AI, sebagian besar karena kekhawatiran di atas. Di u.S. Secara khusus, kantor Presiden Joe Biden merilis rancangan Bill of Rights AI pada bulan Oktober, kelompok bipartisan dari U.S. Senator yang dipimpin oleh Senator Chuck Schumer sedang mengerjakan undang -undang untuk membuat pagar pembatas di sekitar industri, dan empat lembaga pemerintah merilis pernyataan bersama bulan lalu yang menguraikan kekuatan yang mereka miliki untuk mengatur industri lebih kuat, terutama terhadap diskriminasi yang dihasilkan dari bias.

Tapi Bates tidak terhalang dengan memasuki lanskap ini. Dia memperkirakan bahwa akan ada "perubahan menarik di masa depan internet," di mana orang akan mencari informasi yang melayani secara khusus ke tempat mereka berada dalam kehidupan mereka. Daripada meminta saran kencan Google, misalnya, dia berharap Anda akan segera pergi ke platform seperti Diem, yang akan memberi Anda jawaban yang berasal dari orang -orang dengan pengalaman hidup yang sama dengan Anda sendiri.

"Saat ini, kami ada dalam monopoli, dan itu memengaruhi cara kami menggunakan internet dan apa yang kami harapkan dari platform," kata Bates. Lagipula, monopoli itu sering mencerminkan bias yang mendukung laki -laki. "Saya pikir masa depan internet akan menawarkan lebih banyak pengalaman niche," katanya. Dan siapa yang mengatakan ceruk itu tentu kecil? Seperti yang ditunjukkan Bates, orang-orang yang mengidentifikasi wanita merupakan bagian yang hampir sama dari orang-orang di planet ini. Dan sekarang, ada obrolan grup raksasa menunggu masukan mereka.

Intel kesehatan yang Anda butuhkan tanpa bs yang tidak Anda daftarkan hari ini untuk memiliki berita kesejahteraan terbaru (dan terhebat) dan tips yang disetujui ahli dikirimkan langsung ke kotak masuk Anda.