Poznaj Diem, „wyszukiwarką społecznościową” napędową AI, która ma poczuć się jak czat grupy znajomych

Załóżmy na przykład, że chcesz wiedzieć o tym, ile kosztuje zamrożenie jaj. Piszesz to pytanie w Diem, a komponent AI wykorzystywałby swoją szerszą internetową bazę danych i treść kontrolowaną przez Diem użytkownika, aby wygenerować zarówno odpowiedź na jedno zdanie, jak i dłuższą. I otrzymasz oba, wraz ze wszystkimi postami generowanymi przez społeczność na ten temat, na wypadek, gdybyś był zainteresowany przewijaniem.

W ten sposób Diem łączy łatwość AI z personalizacją wiedzy od rzeczywistych kobiet i osób niebinarnych-bardzo anegdotyczne informacje i doświadczenia życiowe oraz plotki Często depriorityzowane przez wyszukiwarki z powodu stronniczości (więcej na ten temat poniżej). Bates mówi, że to kombinacja sprawia, że ​​informacje o Diem jest przydatne, jak i bezpośrednio dotyczy osób z tych społeczności. „Zawsze myśleliśmy o budowie:„ Jak możemy stworzyć przestrzeń, w której możesz szukać zbiorowych spostrzeżeń swoich społeczności?'" ona mówi. „Jeśli możesz budować zbiorowo ze swoją społecznością, kształtuje głos, dane i doświadczenie, i kończy się inaczej."

Kwestia uprzedzeń płciowych w wyszukiwarkach i platformach AI

Ponieważ uprzedzenie płciowe jest powszechne w społeczeństwie jako całość, istnieje również w algorytmach wyszukiwania w Internecie i napędza lukę w zakresie informacji o płci. To ta sama luka, z którą Bates skonfrontował się, próbując znaleźć obowiązujące, powiązane informacje o porannej pigułce w 2018 roku.

Jako dowód, rozważ wyniki badania z 2022 r., Dla którego badacze ustalili, czy obrazy Google wyszukują w krajach o wyższych wynikach o wysokości płci (oceniane z globalnym wskaźnikiem luki w płci), również wykazałyby to stronniczość płciową. Aby to zrobić, przeprowadzili poszukiwanie słowa „osoba” w lokalnym języku 37 krajów w ich pierwszym badaniu i 52 krajach w drugim. We wszystkich przypadkach wyniki wyszukiwania Google w krajach o wyższym poziomie nierówności płci społecznej również ujawniły większą różnicę płci (co oznacza, że ​​wyższy odsetek pierwszych 100 wyników obrazu wykazał mężczyznę kontra kobieta).

Stwierdzono również, że nowe boty AI utrwalają uprzedzenie płciowe. Na przykład, Bloomberg poinformował, że naukowiec obliczeniowy dostał Chatgpt, aby wypluć kod, który powiedział, że tylko azjatyccy lub biali mężczyźni byliby dobrymi naukowcami; Dyrektor generalny firmy odpowiedział na naukowca na Twitterze, zachęcając użytkowników do „kciuki w dół” takich odpowiedzi, aby pomóc programowi nauczyć się nie propagować stronniczości.

Kiedy zadałem Chatgpt podobne pytanie, powiedział, że nie jest właściwe użycie czyjegoś płci lub rasy, aby ustalić, czy wyróżnią się w zawodzie. Ale choć wydaje się, że sztuczna inteligencja uczy się obecnie mniej stronniczego, nadal polega na celu, że współczujące użytkownicy szkolą go tak. (Podczas gdy AI Diem jest w dużej mierze przeszkoleni w zakresie tworzonych informacji przez i dla kobiety i osoby niebinarne, a zatem nie podlegają takiej samej kwestii odchylenia anty-Women z skoku.)

„AI jest tak dobre, jak dane, na których są trenowane, a ponieważ wszyscy ludzie mają uprzedzenia i uprzedzenia, gdy ich dane są wykorzystywane, to uprzedzenie i uprzedzenia stają się częścią AI.„-Nina Vasan, MD, psychiatra

Te ustalenia ilustrują, w jaki sposób uprzedzenia, które utrzymujemy, gdy ludzie naturalnie przenoszą się do tworzonych produktów, i zestawów danych, do których się przyczyniamy. „AI jest tak dobre, jak dane, na których są trenowane, a ponieważ wszyscy ludzie mają uprzedzenia i uprzedzenia, gdy ich dane są wykorzystywane, że uprzedzenie i uprzedzenia stają się częścią AI”, mówi psychiatra Nina Vasan, MD, dyrektor medyczny, MD, dyrektor medyczny medyczny, Platformy terapii cyfrowej Real i założyciel i dyrektor wykonawczy Brainstorm: The Stanford Lab for Mental Health Innovation.

Jak Diem zamierza stać się zabawną, pouczającą wyszukiwarką specjalnie dla kobiet i osób niebinarnych

Biorąc pod uwagę zamierzoną grupę demograficzną Diem, Bates twierdzi, że myśli o informacji udostępnianych na platformie i generowanych przez chatbota jako odpowiedzi na pytania, które ludzie mają, gdy są na „etapie przyjaciela” ich życia; Ludzie wchłaniają wiele informacji od przyjaciół, gdy są w połowie lat dwudziestych i wczesnych lat trzydziestych, mówi. Pomysł z Diem polega na tym, że zyskujesz perspektywy od różnych ludzi w wieku i tożsamości płciowej, z którymi możesz nie wchodzić w interakcje, i że zbiorowe zrozumienie przynosi korzyści wszystkim na platformie.

Ponieważ sztuczna inteligencja Diem jest zasilana informacjami bezpośrednio od ludzi tej grupy demograficznej, jest to reprezentatywna platforma według Design. Na razie tysiące kobiet i osób niebinarnych zadawało pytania i dzieliły się odpowiedziami na DIEM na tematy istotne dla nich, szczególnie w kategoriach zdrowia osobistego, pieniędzy i związków-w których AI Diem najlepiej szkolone.

Chociaż wciąż się uczy, wyciąga z szerszego zastrzeżonego zestawu danych (podobnie jak ten, który zasila Chatgpt), aby znaleźć informacje o pytaniach, których ludzie w społeczności nie omawiali jeszcze. Punktem różnicowania jest jednak to, że wciąż obraca się „podsumowaną odpowiedź died-y” dla tych pytań, mówi Bates, używając rzeczywistych convosów diemi, aby poinformować styl i ton odpowiedzi odpowiedzi.

Ponieważ jednak Diem nadal opiera się na treści generowanej przez użytkowników, jak i o szerszym zestawie danych, na pewno nie jest odporny do problemów, przed którymi stoją inne wyszukiwarki i chatboty AI, w tym fałszywe, wprowadzające w błąd, a tak, nawet stronnicze treści. Z kolei istnieje przycisk w aplikacji i na wersji komputerowej do zgłaszania nadużyć, a platforma opublikowała zestaw wytycznych społeczności-które promują takie rzeczy, jak „życzliwość i ciekawość” i „empatyczne zaangażowanie”-aby zapewnić bezpieczeństwo użytkownikom użytkowników bezpieczeństwa oraz jakość informacji.

Diem uruchamia się w czasach, gdy urzędnicy rządowi zarówno w Stanach Zjednoczonych, jak i Unii Europejskiej badają sposoby regulowania AI, głównie z powodu powyższych obaw. W u.S. W szczególności biuro prezydenta Joe Biden opublikowało w październiku projekt Karta Praw AI, dwustronną grupę U.S. Senatorowie pod przewodnictwem senatora Chucka Schumera pracują nad ustawodawstwem w celu ustanowienia poręczy w branży, a cztery agencje rządowe opublikowały wspólne oświadczenie w zeszłym miesiącu, przedstawiające uprawnienia, które posiadają, aby bardziej solidnie regulować branżę, szczególnie w sprawie dyskryminacji wynikających z uprzedzeń.

Ale Bates nie zniechęca się do wejścia do tego krajobrazu. Przewiduje, że nastąpi „interesująca zmiana w przyszłości Internetu”, w której ludzie będą szukać informacji, które są przeznaczone na to, gdzie są w życiu. Zamiast prosić Google o randki, ma nadzieję, że wkrótce pójdziesz na platformę taką jak Diem, która da ci odpowiedzi od osób z podobnym doświadczeniem do własnego.

„W tej chwili istniejemy w monopoli, co wpływa na sposób korzystania z Internetu i tego, czego oczekujemy od platform” - mówi Bates. W końcu te monopole często odzwierciedlają stronniczość na korzyść ludzi. „Myślę, że przyszłość Internetu będzie oferować więcej niszowych doświadczeń” - mówi. I kto powie, że nisza jest koniecznie mała? Jak zauważa Bates, ludzie zidentyfikujące kobiety stanowią prawie równą część ludzi na planecie. A teraz jest gigantyczny czat grupowy na ich wkład.