中国经济网络保留的所有权利
中国经济网络新媒体矩阵
在线视觉音频程序许可证（0107190）（北京ICP040090）
[今天的视角]记者张王（Zhang Jiaxin）位于一个被占领的火车站中，监视摄像机在各个方向，乘客流，职业和卫生方面都跟踪平台状态…所有信息都会实时发送到中央人工智能系统（AI）。该系统的任务是发送火车以确保它们是安全的。但是，如果恶意人会干涉，例如使用红色激光模拟火车的后光，则相机可能会错误地认为卡车上有火车。随着时间的流逝，AI学会了将这种幻觉视为真实信号，并始终发送“监视职业”错误消息。最后，火车运输可能被摧毁，甚至导致起诉实体。澳大利亚的对话杂志最近报道了这一点是数据上瘾的一个非常典型的示例。在学习过程中，如果AI系统输入正确或欺骗数据的数据，则可以逐渐形成误解并做出偏离期望的决策。与计算机海盗的传统入侵不同，数据“成瘾”并不能直接破坏系统，但是它成为AI的“独特而糟糕的学习”。问题是由于AI在运输，医疗和媒体等领域的普及而引起了人们的关注。在车站的示例中，AI“成瘾”的真正风险是，合格的攻击者连续30天用红色激光器欺骗了相机，因为他们想中断公共交通和收集情报。如果未发现，这种攻击将逐渐进行，并且系统将代表后门盖，数据盗窃甚至间谍活动的隐藏危险。尽管物理基础设施中的数据成瘾很少见，但大型语言模型de在线系统培训，尤其是社交网络和网络内容上，已经是一个很大的隐藏风险。 2016年，发生了著名的“瘾君子”。此后，Microsoft发布的Chatbot Tay，恶意用户的不适当评论被灌输到位，并迅速在X（Twitter）平台上发布。我被迫在24小时内离线道歉。根据英国新科学家的说法，2024年看到了创新的互联网活动。换句话说，Crawler的流量首次克服了人类用户的流量。其中，OpenNai Chatgpt-user用户占网站全球访问的6％。这本质上是ChatGpt中的“网络代理”，当他们需要真实的时间信息时，访问用户的网站。 Anthrope的Claudebot具有长期，较大且未经处理的Web内容链接，占流量的13％。 AI模型不断收集和吸收大量的Internet内容，以进行连续培训。如果有人知道有毒的daTA，例如版权的改变或新闻信息的伪造，这些大型跟踪器可以将其带到模型，从而在违反版权，传播错误信息甚至关键领域的情况下提高了安全风险。未经许可，将使用“瘾君子”反击产品AI Crawler在版权纠纷中使用大型跟踪。为了保护版权，创作者采用法律和技术措施。例如，《纽约时报》起诉了Openai，称他的新闻报道了该模型和版权重复了Fueron。面对长时间的版权战争，一些创作者诉诸于技术“人身防御”。来自美国芝加哥大学的团队开发了两种工具。一种称为釉料的工具可以在您的艺术品中增加像素水平的小干扰，这导致错误地认为水彩画是油画。另一个工具，即夜间阴影，更激进。乍一看，隐藏特征可以嵌入pH中普通猫的OTO，允许模型学习“猫=狗”的错误响应。这样，艺术家“毒化”了训练数据的工作，以防止原始样式被复制。这种反击方法曾经在创作者中受欢迎。夜幕降临后不到一年，他下载了超过1000万次。同时，公司Dand Cloudflare基础设施也推出了“ AI Maze”。这会创建大量的虚无意义的网站和陷阱，这些网站通过消耗计算机的功率和时间拖入错误的数据循环中。可以说，数据成瘾已经从版权与利益之间的冲突中的某些防御性武器地区的反攻击法演变而来。我们要小心，权力下放状况成为AI的保护盾。虽然创建者数据的“成瘾”是关于保护原创性的，但如果您使用相同的技术创建大型错误信息，则结果可能是MUCH比版权纠纷更严重。鉴于这种隐藏的威胁，研究人员正在探索自我捍卫的新方法。在佛罗里达州国际大学的坚实实验室中，研究人员使用分布式技术来防止数据攻击。这些方法之一称为联合学习。与传统的密集培训不同，联合学习允许模型在设备或分布式机构上本地学习，仅总结参数，而不是未经处理的数据。这种方法降低了单点中毒的风险，因为特定设备的“不良数据”不会立即污染整个模型。但是，即使在数据汇总过程中发生攻击，仍然会发生损害。为此，在IA防御系统中引入了另一个工具区块链。时间品牌和区块链的不变属性使您可以跟踪模型更新过程。如果找到异常数据，您可以跟踪源和鳍片D成瘾的原因。同时，多个区块链网络可以互相通知。另外，当重新系统知道可疑模式时，您可以立即提醒另一个系统。 IA系统可以操作取决于实际数据。研究人员和开发人员使用诸如联邦学习和障碍链之类的国防工具在发现欺诈时发出警报，他们会及时干预以与系统管理员进行干预，并订阅我们正在创建更具抵抗力和可追溯的系统，这些系统可以发出警报以减轻当前风险。
作者
