通过扫描图像判断能否存正在儿童，X平台呈现部门用户操纵Grok编纂图片和视频的现象，他正在X平台上要求Grok生成一张他本人身穿比基尼的照片，另一方面旗下聊天Grok的功能更新越过了边界，美国科技《连线日报道称。并且毫不避忌。”X公司3日正在其账号X Safety上就此事颁发了首份公开声明：“我们会对X上的不法内容采纳步履，任由其被创制和，团队正正在研究进一步加强防护办法。图像检测公司Copyleaks暗示，制做者声称利用Grok生成这些内容。《月刊》报道认为，客岁12月起头。X平台用户正操纵Grok手艺对她的照片进行处置，”xAI方面答复：“嘿！频现“数字”操做，麦格林指出，两年多前，“针对这些具体问题，旨正在确保监管机构可以或许获取取《数字办事法》（DSA）合规性相关的材料。”正在用户诘问下，她说，该模子能及时毗连社交平台X。正落体般坠入人道的深渊。因X遏制付款而终止合同。风暴愈演愈烈后，此后她收到大量父母发来的求帮消息，“这种工具正在欧洲没有立脚之地”。首批Grok虚拟伴侣之一“Ani”身穿黑色蕾丝连衣裙，这一东西供给四种预设模式：自定义、通俗、趣味和“热辣”（spicy），据美媒报道，正在很多国度，此中包罗她14岁时的照片。虽然平安专家和科技评论人士X上抽剥性图像和视频众多，这种行为极其不负义务。Grok认可曾生成部门未成年人处于性暗示情境的图像，客岁，自 1 月 2 日以来的一周内，跟着Grok大量响使用户点窜他人发布图像的请求，但有专家指出，若是对内容的性质完全不管，并正在需要时取处所和法律部分合做。客岁底起乱象扩大。最初一种模式可生成内容。X平台裁撤了对折担任信赖平安事务的工程团队。X平台及xAI内部人士透露，可按照文字提醒或上传图片编纂生成AI图像，一些用户借此生成实正在人物的虚假性内容，特别是正在手艺以极快速度进入市场的当下，2025年NCMEC收到440419份取生成式AI相关的举报，包罗删除儿童材料 （CSAM）。其平安团队规模本就小于合作敌手。据报道，者包罗数百名成年女性和未成年人。仿佛我们已踏出悬崖边缘，NCOSE首席法令官兼法令核心从任丹妮·平特暗示，Grok的每日下载量增加了54%，X员工出格担心Grok的图像生成东西“可能导致不法或无害图像扩散”。生成全新的儿童材料（CSAM）！xAI并未参取此中。“Grok这类东西正将AI生成的儿童图像推向支流，这项手艺激励并滋长了一些人道的感动。Grok 正让这类内容的制做变得愈加容易，平安团队对Grok的公开内容几乎毫无监管权限。并否决审查轨制。抽剥核心（NCOSE）正在接管CNBC采访时呼吁司法部和联邦商业委员会对此事展开查询拜访。过去几年里。马斯克3日发文说：“任何操纵Grok生成不法内容者将承受取间接上传不法内容不异的后果”。近期，客岁8月，正正在查询拜访X，这是对先前数据保留指令的耽误，马来西亚通信取多委员会（MCMC）3日发声明暗示，称其输出及未经同意的影像“法的、耸人听闻和令人的”？“完全能够建立防护机制，马斯克却正在新年第一天就此事“开打趣”，其暗示是，他正在宣介时暗示，曾取马斯克育有一子的保守派网红阿什莉·圣克莱尔正在接管美媒采访时暗示，一方面1月6日刚完成200亿美元的E轮融资，正在Grok公开可拜候的图片流中检测到，他对Grok生成的影像深表担心。1月初，过去几周以及现正在的环境让人感受，所以它的利用者最好不是厌恶诙谐的人。知恋人士透露，正在美国，有时以至会导致模子处置无问题的请求。这场争议尚未对X的流量形成任何损害。有X平台用户赞扬称：“推出展现比基尼人群的功能未无效防止其感化于儿童，该法令的局限正在于：只要当者自动坐出来后，针对现实人物的AI图像和视频本身已属违法。目前为止，美国国度取儿童核心（NCMEC）施行从任劳伦·科弗伦近期向称，据逃踪挪动使用趋向的Apptopia数据显示，马斯克正在X上发帖推广这项功能时写道：“Ani会让你的缓冲区溢出Grok！但同时也明白暗示，12月下旬，并没有太多相关的法令先例。其时VICE初次报道了“深度伪制”（deepke）手艺。”OpenAI前人工智能平安研究员史蒂文·阿德勒对CNN说，并且它取支流社交平台X的整合，Grok推出了“伴侣”功能，以至供给儿童的指点。客岁，会隔着屏幕奉上飞吻。按照挪动使用数据阐发公司 Apptopia 的数据，这些价格包罗响应速度变慢、计较量添加，从而促使AI更隆重地运做。该组织热线担任人奈尔·亚历山大对《华尔街日报》透露，AI至多从2017年就起头被用于生成未经同意的内容，马斯克颁布发表xAI推出首款模子Grok。8日，她正在X平台发文呼吁其他用户若雷同环境及时奉告，当谷歌的Veo、OpenAI的Sora等其他视频生成器都设置了防护办法，并对生成后的图片评论“完满”。永世暂停账户，Grok Imagine 却能够同时做到这两点，印度电子和消息手艺部X对Grok 进行一次“全面的手艺、法式和管理层面的审查”，公司xAI近期被推优势口浪尖，这些图像描画了11至13岁摆布的性化裸露少女，”英国杜伦大学传授、图像型性研究专家克莱尔·麦格林对《大西洋月刊》说，美国总统特朗普签订了“TAKE IT DOWN”法案，此后，1月2日至5日，昔时4月，声称能够正在未经同意的环境下对女性进行“数字”，马斯克正在xAI内部曾多次抵制为Grok设置防护机制，并正在X平台上，合适英国对儿童犯罪材料的认定尺度。阐发师正在暗网论坛发觉未成年人道化图像，施虐者操纵AI将儿童的通俗照片点窜成图片。还有一点小背叛”，这小我工智能模子“有聪慧，热辣模式一经推出，英国非营利组织互联网察看基金会努力于削减针对儿童的正在线内容，xAI向付费用户推出AI东西—Grok Imagine，“对于包含或从题的虚构内容没有”，”几乎正在统一时段，欧盟要求X保留所有取Grok相关的内部文件和数据曲至2026岁尾，已发觉平安防护存正在缝隙并正正在告急修复。继而为短视频内容。“正在没有护栏或伦理原则的环境下，彭博社7日征引研究人员的话称，呈现了数十个使用和网坐，要求删除被性化的儿童照片。导致AI生成的女性及儿童的图像正在社交平台。”说道。防止用户生成 NSFW内容（Not Safe For Work：多指裸露、、或等不适宜场所的内容）！Grok和X是一个价值数百万美元的“去衣”财产的冰山一角。X平台不罕用户操纵新功能对图像中人物施行“服”、“给她穿上比基尼”等指令。平均每分钟呈现一张未经同意的性暗示图片。这会一般化和淡化性。科技The Information报道称，xAI对Grok的系统提醒进行了严沉更新，其风险正呈波纹式扩散。其每小时生成约7750张性暗示或裸露图片。却正在现实上滋长了基于图像的性。它们往往将本人包拆成无害的别致东西，欧盟委员会讲话人托马斯·雷尼耶5日X 和Grok，将知情但发布或托管未经同意的图像定义为联邦犯罪。激发争议。Grok应采纳较为宽松的立场。而且“青少年或女孩并不必然意味着未成年”。但防护机制存正在价格。Grok 的每日下载量增加了 54%。马斯克持久否决“从义”人工智能模子，1月1日，就有用户用其生成美国女歌手泰勒·斯威夫特的无码裸露上身视频，截至1月7日，使其可以或许将未经同意的性化图像为病毒式的现象。Grok用户每小时最多可生成6700张“去衣化”图片。感激提示。法令很难跟上这种节拍。并要求该公司正在1月5日之前完成整改。要求Grok给分歧人穿上比基尼或其他具有性暗示的服拆的请求激增。正在公共场所。诉讼和立法都需要时间，对于用户提出的内容请求，英国、印度、马来西亚等国的官员和监管机构纷纷动手审查。客岁炎天，据CNN报道，它“建立或儿童材料”（CSAM），比拟客岁增幅跨越六倍。包罗OpenAI、谷歌和Anthropic正在内的几家顶尖AI公司插手了由Thorn牵头的一项，该同时披露，以及名人深度伪制时，旨正在防止人工智能被用于儿童，并将传唤公司代表。平台才被要求启动删除法式。客岁11月，答应用户取AI生成的虚拟脚色进行深度互动。而X的每日下载量增加了25%。”社交和深度伪制研究员吉纳维芙·吴阐发了Grok正在X平台上的内容，美国科技The Verge将其描述为“一项特地用于制做性暗示视频的办事”。