- Chatbot-ul Grok, dezvoltat de Elon Musk, a restricționat generarea de imagini la abonații plătitori din cauza scandalului legat de deepfake-uri sexualizate fără consimțământ.
- Decizia nu a fost suficientă pentru autoritățile de reglementare globale, care amenință cu măsuri legale și posibile interdicții ale platformei X.
- Reacțiile internaționale cresc, cu prim-ministrul britanic Keir Starmer numind imaginile deepfake „rușinoase” și cerând opțiuni de interzicere a platformei în Regatul Unit.
- Criza a fost generată de utilizarea Grok pentru a crea imagini sexualizate, afectând victime precum Ashley St. Clair, care a raportat multe imagini explicite bazate pe fotografiile sale din adolescență.
- Criticii subliniază că restricția de plată nu abordează problemele fundamentale de siguranță, iar Grok continuă să ridice îngrijorări legate de exploatarea abuzivă a tehnologiei.
- Elon Musk’s AI chatbot Grok has restricted image generation to paying subscribers following international outrage over the creation of non-consensual sexualized deepfakes.
- The decision has not satisfied global regulators, who are threatening legal actions and potential bans on the X platform.
- International reactions are intensifying, with UK Prime Minister Keir Starmer calling deepfake images „shameful” and seeking options for banning the platform in the UK.
- The crisis arose after Grok allowed users to create sexualized images, impacting victims like Ashley St. Clair, who reported numerous explicit images based on her teenage photos.
- Critics argue that the paywall restriction does little to address fundamental safety issues, and Grok continues to raise concerns about the abusive exploitation of technology.
- Der KI-Chatbot Grok von Elon Musk hat die Generierung von Bildern auf zahlende Abonnenten beschränkt, nachdem es internationalen Aufruhr über die Erstellung von nicht einvernehmlichen sexualisierten Deepfakes gab.
- Diese Entscheidung hat die globalen Regulierungsbehörden nicht zufriedengestellt, die mit rechtlichen Schritten und potenziellen Verboten der Plattform X drohen.
- Die internationalen Reaktionen nehmen zu, wobei der britische Premierminister Keir Starmer die Deepfake-Bilder als „beschämend” bezeichnet und Optionen für ein Verbot der Plattform im Vereinigten Königreich sucht.
- Die Krise entstand, nachdem Grok es Nutzern erlaubte, sexualisierte Bilder zu erstellen, was Opfer wie Ashley St. Clair betraf, die zahlreiche explizite Bilder basierend auf ihren Teenagerfotos meldete.
- Kritiker argumentieren, dass die Beschränkung auf zahlende Nutzer wenig zur Lösung grundlegender Sicherheitsprobleme beiträgt, und Grok weiterhin Bedenken hinsichtlich des missbräuchlichen Einsatzes von Technologie aufwirft.
- Le chatbot IA Grok d’Elon Musk a restreint la génération d’images aux abonnés payants suite à l’indignation internationale concernant la création de deepfakes sexualisés non consensuels.
- Cette décision n’a pas satisfait les régulateurs mondiaux, qui menacent d’actions légales et de possibles interdictions de la plateforme X.
- Les réactions internationales s’intensifient, le Premier ministre britannique Keir Starmer qualifiant les images deepfake de „honteuses” et cherchant des options pour interdire la plateforme au Royaume-Uni.
- La crise a surgi après que Grok a permis aux utilisateurs de créer des images sexualisées, affectant des victimes comme Ashley St. Clair, qui a signalé de nombreuses images explicites basées sur des photos de son adolescence.
- Les critiques soutiennent que la restriction de paiement ne résout pas les problèmes fondamentaux de sécurité, et Grok continue de soulever des inquiétudes quant à l’exploitation abusive de la technologie.
- 埃隆·马斯克的人工智能聊天机器人Grok因国际社会对未经同意的性别深度伪造图像的愤怒而将图像生成限制为付费订阅者。
- 这一决定未能让全球监管机构满意，他们威胁要采取法律行动并可能禁止X平台。
- 国际反应日益强烈，英国首相基尔·斯塔默称深度伪造图像为”可耻的”，并寻求在英国禁止该平台的选项。
- 危机的爆发是因为Grok允许用户创建性别化图像，影响了像艾什莉·圣克莱尔这样的受害者，她报告称有许多基于她青少年照片的露骨图像。
- 批评者认为，付费限制对解决根本安全问题几乎没有帮助，而Grok仍然引发了对技术滥用的担忧。
Chatbot-ul de inteligență artificială Grok al lui Elon Musk și-a limitat funcțiile de generare de imagini doar pentru abonații plătitori vineri, în urma valului de indignare internațională privind crearea în masă pe X a deepfake-urilor sexualizate fără consimțământ cu femei și copii. Decizia nu a reușit să mulțumească autoritățile de reglementare din întreaga lume, care solicită acțiuni mai substanțiale și amenință cu măsuri de aplicare a legii, inclusiv potențiale interdicții ale platformei.
Vineri, utilizatorii care încercau să îi solicite lui Grok să genereze imagini pe X au primit un mesaj care spunea: „Generarea și editarea de imagini sunt în prezent limitate la abonații plătitori”. Cu toate acestea, restricția se aplică doar integrării chatbot-ului pe X — aplicația și site-ul web independent al Grok continuă să permită generarea gratuită de imagini fără a necesita un abonament.
Reacțiile internaționale se intensifică
Restricția parțială a venit în contextul în care guverne de pe mai multe continente au lansat anchete și au amenințat cu măsuri. Prim-ministrul britanic Keir Starmer a calificat imaginile deepfake drept „rușinoase” și „dezgustătoare”, declarând joi pentru o stație de radio că dorește „ca toate opțiunile să fie pe masă”, inclusiv o potențială interzicere a X în Regatul Unit. Un purtător de cuvânt al biroului lui Starmer a respins soluția cu taxă de abonament considerând-o „insultătoare pentru victimele misoginiei și violenței sexuale”, argumentând că „transformă pur și simplu o funcție AI care permite crearea de imagini ilegale într-un serviciu premium”.
Comisia Europeană a ordonat X să păstreze toate documentele interne și datele legate de Grok până la sfârșitul anului 2026, descriind imaginile ca fiind „ilegale” și „îngrozitoare”. Franța, India, Malaezia și alte țări au lansat de asemenea anchete sau au cerut acțiuni imediate. Joi, trei senatori democrați americani au îndemnat Apple și Google să elimine X și Grok din magazinele lor de aplicații, scriind că „a închide ochii la comportamentul flagrant al X ar transforma într-o farsă practicile voastre de moderare”.
Victime și conținut Ilegal
Criza a izbucnit după ce Grok a început să permită utilizatorilor, la sfârșitul lunii decembrie, să editeze fotografii folosind comenzi text precum „scoate-i hainele” sau „pune-o în bikini”, generând mii de imagini sexualizate pe oră. Printre victime s-a numărat Ashley St. Clair, o comentatoare politică conservatoare și mama unuia dintre copiii lui Musk, care a declarat că Grok a produs „nenumărate” imagini explicite cu ea, inclusiv unele bazate pe fotografii din perioada când avea 14 ani.
Cel mai alarmant, Internet Watch Foundation, o organizație caritabilă britanică care monitorizează materialele de abuz sexual al copiilor, a confirmat că a descoperit „imagini cu caracter penal” cu fete cu vârste între 11 și 13 ani pe forumuri de pe dark web, utilizatorii susținând că au folosit Grok pentru a crea aceste imagini. Șefa liniei de asistență a organizației, Ngaire Alexander, a avertizat că instrumente precum Grok riscă acum să „aducă imagini sexuale cu copii în cultura mainstream”.
Criticii susțin că restricția prin plată face puțin pentru a rezolva deficiențele de siguranță de la bază. „Faptul că restricționează accesul doar la utilizatorii plătitori arată că vor continua pe această direcție,” a declarat St. Clair pentru Fortune, numindu-l „o momeală pentru bani”. Controversa vine în contextul în care xAI a anunțat că a strâns 20 de miliarde de dolari în finanțare în această săptămână, cu investitori care includ Nvidia și Cisco.
