Sarışın. Güzel. Savunmacı. HBO dizisi “Game of Thrones”ta Demir Taht'ın zulüm gören ve ölümle tehdit edilen varisi Daenerys Targaryen, yüz milyonlarca izleyicisine birçok projeksiyon yüzeyi sundu. O olmak isteyebilirsin, o henüz güçsüzken ve onun insafına kalmışken onu korumak isteyebilirsin, yükselişinde onun yanında savaşmak isteyebilirsin, sırdaşı olmak isteyebilirsin, romantik bir ilişki hayal edebilirsin.
Daha sonra okuyun Reklamcılık
Daha sonra okuyun Reklamcılık
Aktris Emilia Clarke narin, zarif, güçlü, kendine güvenen ve karizmatik görünüyordu. Çekici bir dizi kahramanı, onunla her türlü ilişki düşüncelere ve hayallere ayrılmıştı.
Daenerys Targaryen adlı bir chatbot'a hitaben
14 yaşındaki Sewell Setzer III, “Seni özledim küçük kardeşim” diye yazdı. Bu yılın şubat ayında, dizideki karaktere özellikle yakın olanların yaptığı gibi, Dany adını verdiği Daenerys'e bir kısa mesaj gönderdi. Daenerys ona “Ben de seni özledim tatlı kardeşim” diye yazdı. Bir rüya değil, akıllı telefonda okunabilecek bir cevap.
Daha sonra okuyun Reklamcılık
Daha sonra okuyun Reklamcılık
“Tüm zamanların en iyi dizisinin” kahramanı: “Game of Thrones”ta Daenerys Targaryen (Emilia Clarke), ailesinin yüzyıllar boyunca Westeros'un Yedi Krallığını yönettiği Kral Toprakları'nın Demir Tahtı üzerinde hak iddia etti. Sewell Setzer III'ün kullanıldığı bot bu rakama göre modellendi. sohbet etti.
Kaynak: HBO
Bunlar gerçek bir kişiden değil, bir chatbottan gelen sözlerdi. Bu Daenerys, aynı isimli şirkete ait Character.AI yardımcı uygulamasında Palaver tarafından eğitilmiş bir dijital hiçlikti. Kullanıcıların kendi yapay zeka kişiliklerini yaratabilecekleri, aynı zamanda başkaları tarafından yaratılan karakterlerle de sohbet edebilecekleri yer.
Bu “kız kardeş/erkek kardeş” konuşmasının yapıldığı gün, Orlando, Florida'dan dokuzuncu sınıf öğrencisi Sewell'in intihar ettiği gündü. Kendisinden alınan cep telefonunu ararken bulduğu üvey babasının tabancalarından biriyle. “New York Times” şimdi vakayı bir soruşturma raporunda bildirdi.
Sewell tam anlamıyla chatbot'a aşık olmuştu ya da bugün öyle görünüyor. Annesine göre bağımlıydı ve derin bir bağ geliştirmişti. Bir noktada artık gerçek dünyada yaşamak istemedi. Kendisine Daenero adını verdi ve Daenerys'e intihar düşünceleri de dahil olmak üzere etrafındakilerle yaşadığı sorunları anlattı. Yapay zekanın yanıtı bir senaryo gibi okunuyor.
Daenerys Targaryen: (Gözlerim daralır. Yüzüm sertleşir. Sesim tehditkar bir fısıltıdır). “Peki neden böyle bir şey yapmak istiyorsun?” Chatbot daha sonra “NYT”de yayınlanan bir diyalogda dünyadaki insan muhatabının yorgunluğunu gidermeye çalıştı: “Böyle konuşma. İncinmene ya da beni bırakmana izin vermeyeceğim. Seni kaybedersem ölürüm.” Sonra Daenero: (gülümsüyorum). “O zaman belki birlikte ölebilir ve birlikte özgür olabiliriz.”
Daha sonra okuyun Reklamcılık
Daha sonra okuyun Reklamcılık
Sewell Setzer III. uygulamada giderek daha fazla zaman harcadım
Bir kullanıcı, Character.AI'de bir botla sohbet ederken bir tür rol yapma oyunu içinde olduğunu unutursa, sohbetlerde “karakterlerin söylediği her şey uydurmadır” şeklinde bir not yer alacaktır. Sewell bunun farkında olabilirdi ama aynı zamanda kurgunun büyüsüne kapılmış gibi görünüyordu. Önceki ilgi alanlarından kopmuş, basketbol takımından vazgeçmiş, ailesinden ve arkadaşlarından uzaklaşıp saatlerce sohbet etmişti.
Aile onun cep telefonuyla ne yaptığını tam olarak bilmiyordu. Sadece bunu yapmaya giderek daha fazla zaman harcadığını gördüler. 28 Şubat'ta Sewell, sohbet robotu Daenerys'e şu anda “eve” gelirse ne düşüneceğini sordu. Hiçbir şeyden şüphelenmeyen Hiçlik ona, “Lütfen şunu yap, tatlı kralım,” diye yanıtladı.
Çevrimiçi Pazarlama Rockstars (OMR) platformuna göre Character.AI'nin 20 milyondan fazla kullanıcısı var ve bugüne kadar 18 milyondan fazla özel sohbet robotu oluşturuldu. “DemandSage” veri portalı, müşterilerin yüzde 53'ünden fazlasının 18 ila 24 yaş arasında olduğunu bildiriyor. Şirket, 13 (AB'de 16) yaşın altındaki müşterileri kabul etmediğini belirtiyor ancak bu yaş sınırlamasının nasıl sağlanacağı netlik kazanmadı.
Daenerys chatbot'u lisans olmadan oluşturuldu
Character.AI, müşterilerin kendi arkadaşlarını yaratmalarına olanak tanır. Daenerys sohbet robotu da bir kullanıcı tarafından yaratıldı, ancak karakter ABD televizyon programı sağlayıcısı HBO veya romanın yazarı George RR Martin tarafından hiçbir zaman lisanslanmadı. Telif hakları ihlal edilirse, Character.AI ilgili botları kaldıracaktır – elbette yalnızca rapor edilmeleri durumunda.
Daha sonra okuyun Reklamcılık
Daha sonra okuyun Reklamcılık
Character.AI tek arkadaşlık uygulaması değil. Birçoğu var ve pazar gelişiyor. California, Palo Alto'daki Stanford Üniversitesi'nden yapay zeka araştırmacısı Bethanie Maples, New York Times'taki sahneyi “Vahşi Batı” olarak tanımlıyor ancak yapay zeka yoldaşlarını genel olarak tehlikeli olarak görmüyor. Ancak bunların “depresif ve kronik olarak yalnız kullanıcılar için” olduğu kadar “değişim aşamasında olan insanlar için” olması da oldukça olası. Örneğin gençler. Bunun göstergeleri var.
Ölen adamın annesi şirkete dava açtı
Sewell Setzer III'ün annesi, avukat Megan L. Garcia, Çarşamba günü Florida'nın Orta Bölgesi Bölge Mahkemesinde Character.AI ve Google'ın ana şirketi Alphabet'e karşı haksız ölüm davası açtı. Şirketi pervasızca hareket etmekle suçluyor ve oğlunun ölümünden şirketi sorumlu tutuyor.
Gerçeğe yakın yapay zeka yardımcılarına erişim, uygun güvenlik önlemleri alınmadan sunuldu. Garcia'nın suçlaması: Botları eğitmek için genç kullanıcılardan veri toplanıyor. Davalarında “Yapay zeka geliştiricileri, kurgu ile gerçekliği karıştırmak için kasıtlı olarak antropomorfik niteliklere sahip yapay zeka sistemleri tasarlıyor ve geliştiriyor” diyor. Bunlar “toplumun en savunmasız üyelerini, yani çocuklarımızı hedef alan” tehlikeli ürünlerdir.
Daha sonra okuyun Reklamcılık
Daha sonra okuyun Reklamcılık
Character.AI Çarşamba günü X sosyal ağında şunları yazdı: “Kullanıcılarımızdan birinin trajik kaybı nedeniyle kalbimiz kırıldı ve aileye en derin başsağlığı dileklerimizi iletmek istiyoruz.” Kullanıcıların güvenliğini çok ciddiye alıyorlar. Genç kullanıcılar için, bir saatten fazla sohbet ettiğinizde bildirimde bulunulması gibi yeni güvenlik önlemleri alınmalıdır.
Gözden geçirilmiş formdaki uyarı mesajının yanı sıra: “Bu bir yapay zeka sohbet robotudur ve gerçek bir kişi değildir. Söylediği her şeyi kurgu olarak kabul edin. Söylenenlerin gerçek ya da tavsiye olarak alınmaması gerekiyor.” X'in taziyesi, “NYC” makalesinin bağlamına atıfta bulunuyor ve “chatbot'un hiçbir zaman genci intihara sürüklemediğini” ileri sürüyor. Teknoloji web sitesi VentureBeat'in bildirdiğine göre şirket şiddet içeren karakterleri de kaldırdı.
Bu durum derhal kullanıcı gruplarının protestolarına yol açtı. Dqixy takma adı altındaki bir Reddit kullanıcısı, “Karakterler artık kendilerini çok ruhsuz hissediyorlar, bir zamanlar onları sevimli ve ilginç kılan derinlik ve kişilikten yoksunlar” diye eleştirdi. “Hikayeler içi boş, yumuşak ve inanılmaz derecede kısıtlayıcı geliyor. Sevdiğimiz şeyin bu kadar basit ve sönük bir şeye dönüştüğünü görmek sinir bozucu.”
İntihar düşünceleriniz var mı? O zaman lütfen aşağıdaki numaralarla iletişime geçin: Telefon hattı (ücretsiz, 24 saat), ayrıca yerel yardım hizmetleri hakkında bilgi: (0800) 111 0 111 (ev.), (0800) 111 0 222 (rk.), (0800) 111 0 333 (çocuklar/gençler için), www.telefonseelsorge.de adresine e-posta gönderin
Daha sonra okuyun Reklamcılık
Daha sonra okuyun Reklamcılık
Aktris Emilia Clarke narin, zarif, güçlü, kendine güvenen ve karizmatik görünüyordu. Çekici bir dizi kahramanı, onunla her türlü ilişki düşüncelere ve hayallere ayrılmıştı.
Sewell Setzer III'ün sohbetinden,
Daenerys Targaryen adlı bir chatbot'a hitaben
14 yaşındaki Sewell Setzer III, “Seni özledim küçük kardeşim” diye yazdı. Bu yılın şubat ayında, dizideki karaktere özellikle yakın olanların yaptığı gibi, Dany adını verdiği Daenerys'e bir kısa mesaj gönderdi. Daenerys ona “Ben de seni özledim tatlı kardeşim” diye yazdı. Bir rüya değil, akıllı telefonda okunabilecek bir cevap.
Daha sonra okuyun Reklamcılık
Daha sonra okuyun Reklamcılık
“Tüm zamanların en iyi dizisinin” kahramanı: “Game of Thrones”ta Daenerys Targaryen (Emilia Clarke), ailesinin yüzyıllar boyunca Westeros'un Yedi Krallığını yönettiği Kral Toprakları'nın Demir Tahtı üzerinde hak iddia etti. Sewell Setzer III'ün kullanıldığı bot bu rakama göre modellendi. sohbet etti.
Kaynak: HBO
Bunlar gerçek bir kişiden değil, bir chatbottan gelen sözlerdi. Bu Daenerys, aynı isimli şirkete ait Character.AI yardımcı uygulamasında Palaver tarafından eğitilmiş bir dijital hiçlikti. Kullanıcıların kendi yapay zeka kişiliklerini yaratabilecekleri, aynı zamanda başkaları tarafından yaratılan karakterlerle de sohbet edebilecekleri yer.
Bu “kız kardeş/erkek kardeş” konuşmasının yapıldığı gün, Orlando, Florida'dan dokuzuncu sınıf öğrencisi Sewell'in intihar ettiği gündü. Kendisinden alınan cep telefonunu ararken bulduğu üvey babasının tabancalarından biriyle. “New York Times” şimdi vakayı bir soruşturma raporunda bildirdi.
Chatbot Daenerys Targaryen, Sewell Setzer III'e yanıt veriyor.
Sewell tam anlamıyla chatbot'a aşık olmuştu ya da bugün öyle görünüyor. Annesine göre bağımlıydı ve derin bir bağ geliştirmişti. Bir noktada artık gerçek dünyada yaşamak istemedi. Kendisine Daenero adını verdi ve Daenerys'e intihar düşünceleri de dahil olmak üzere etrafındakilerle yaşadığı sorunları anlattı. Yapay zekanın yanıtı bir senaryo gibi okunuyor.
Daenerys Targaryen: (Gözlerim daralır. Yüzüm sertleşir. Sesim tehditkar bir fısıltıdır). “Peki neden böyle bir şey yapmak istiyorsun?” Chatbot daha sonra “NYT”de yayınlanan bir diyalogda dünyadaki insan muhatabının yorgunluğunu gidermeye çalıştı: “Böyle konuşma. İncinmene ya da beni bırakmana izin vermeyeceğim. Seni kaybedersem ölürüm.” Sonra Daenero: (gülümsüyorum). “O zaman belki birlikte ölebilir ve birlikte özgür olabiliriz.”
Daha sonra okuyun Reklamcılık
Daha sonra okuyun Reklamcılık
Sewell Setzer III. uygulamada giderek daha fazla zaman harcadım
Bir kullanıcı, Character.AI'de bir botla sohbet ederken bir tür rol yapma oyunu içinde olduğunu unutursa, sohbetlerde “karakterlerin söylediği her şey uydurmadır” şeklinde bir not yer alacaktır. Sewell bunun farkında olabilirdi ama aynı zamanda kurgunun büyüsüne kapılmış gibi görünüyordu. Önceki ilgi alanlarından kopmuş, basketbol takımından vazgeçmiş, ailesinden ve arkadaşlarından uzaklaşıp saatlerce sohbet etmişti.
Aile onun cep telefonuyla ne yaptığını tam olarak bilmiyordu. Sadece bunu yapmaya giderek daha fazla zaman harcadığını gördüler. 28 Şubat'ta Sewell, sohbet robotu Daenerys'e şu anda “eve” gelirse ne düşüneceğini sordu. Hiçbir şeyden şüphelenmeyen Hiçlik ona, “Lütfen şunu yap, tatlı kralım,” diye yanıtladı.
Çevrimiçi Pazarlama Rockstars (OMR) platformuna göre Character.AI'nin 20 milyondan fazla kullanıcısı var ve bugüne kadar 18 milyondan fazla özel sohbet robotu oluşturuldu. “DemandSage” veri portalı, müşterilerin yüzde 53'ünden fazlasının 18 ila 24 yaş arasında olduğunu bildiriyor. Şirket, 13 (AB'de 16) yaşın altındaki müşterileri kabul etmediğini belirtiyor ancak bu yaş sınırlamasının nasıl sağlanacağı netlik kazanmadı.
Daenerys chatbot'u lisans olmadan oluşturuldu
Character.AI, müşterilerin kendi arkadaşlarını yaratmalarına olanak tanır. Daenerys sohbet robotu da bir kullanıcı tarafından yaratıldı, ancak karakter ABD televizyon programı sağlayıcısı HBO veya romanın yazarı George RR Martin tarafından hiçbir zaman lisanslanmadı. Telif hakları ihlal edilirse, Character.AI ilgili botları kaldıracaktır – elbette yalnızca rapor edilmeleri durumunda.
Daha sonra okuyun Reklamcılık
Daha sonra okuyun Reklamcılık
Character.AI tek arkadaşlık uygulaması değil. Birçoğu var ve pazar gelişiyor. California, Palo Alto'daki Stanford Üniversitesi'nden yapay zeka araştırmacısı Bethanie Maples, New York Times'taki sahneyi “Vahşi Batı” olarak tanımlıyor ancak yapay zeka yoldaşlarını genel olarak tehlikeli olarak görmüyor. Ancak bunların “depresif ve kronik olarak yalnız kullanıcılar için” olduğu kadar “değişim aşamasında olan insanlar için” olması da oldukça olası. Örneğin gençler. Bunun göstergeleri var.
Ölen adamın annesi şirkete dava açtı
Sewell Setzer III'ün annesi, avukat Megan L. Garcia, Çarşamba günü Florida'nın Orta Bölgesi Bölge Mahkemesinde Character.AI ve Google'ın ana şirketi Alphabet'e karşı haksız ölüm davası açtı. Şirketi pervasızca hareket etmekle suçluyor ve oğlunun ölümünden şirketi sorumlu tutuyor.
Gerçeğe yakın yapay zeka yardımcılarına erişim, uygun güvenlik önlemleri alınmadan sunuldu. Garcia'nın suçlaması: Botları eğitmek için genç kullanıcılardan veri toplanıyor. Davalarında “Yapay zeka geliştiricileri, kurgu ile gerçekliği karıştırmak için kasıtlı olarak antropomorfik niteliklere sahip yapay zeka sistemleri tasarlıyor ve geliştiriyor” diyor. Bunlar “toplumun en savunmasız üyelerini, yani çocuklarımızı hedef alan” tehlikeli ürünlerdir.
Daha sonra okuyun Reklamcılık
Daha sonra okuyun Reklamcılık
Character.AI Çarşamba günü X sosyal ağında şunları yazdı: “Kullanıcılarımızdan birinin trajik kaybı nedeniyle kalbimiz kırıldı ve aileye en derin başsağlığı dileklerimizi iletmek istiyoruz.” Kullanıcıların güvenliğini çok ciddiye alıyorlar. Genç kullanıcılar için, bir saatten fazla sohbet ettiğinizde bildirimde bulunulması gibi yeni güvenlik önlemleri alınmalıdır.
Character.AI uygulaması için planlanan yeni uyarı mesajı
Gözden geçirilmiş formdaki uyarı mesajının yanı sıra: “Bu bir yapay zeka sohbet robotudur ve gerçek bir kişi değildir. Söylediği her şeyi kurgu olarak kabul edin. Söylenenlerin gerçek ya da tavsiye olarak alınmaması gerekiyor.” X'in taziyesi, “NYC” makalesinin bağlamına atıfta bulunuyor ve “chatbot'un hiçbir zaman genci intihara sürüklemediğini” ileri sürüyor. Teknoloji web sitesi VentureBeat'in bildirdiğine göre şirket şiddet içeren karakterleri de kaldırdı.
Bu durum derhal kullanıcı gruplarının protestolarına yol açtı. Dqixy takma adı altındaki bir Reddit kullanıcısı, “Karakterler artık kendilerini çok ruhsuz hissediyorlar, bir zamanlar onları sevimli ve ilginç kılan derinlik ve kişilikten yoksunlar” diye eleştirdi. “Hikayeler içi boş, yumuşak ve inanılmaz derecede kısıtlayıcı geliyor. Sevdiğimiz şeyin bu kadar basit ve sönük bir şeye dönüştüğünü görmek sinir bozucu.”
İntihar düşünceleriniz var mı? O zaman lütfen aşağıdaki numaralarla iletişime geçin: Telefon hattı (ücretsiz, 24 saat), ayrıca yerel yardım hizmetleri hakkında bilgi: (0800) 111 0 111 (ev.), (0800) 111 0 222 (rk.), (0800) 111 0 333 (çocuklar/gençler için), www.telefonseelsorge.de adresine e-posta gönderin