您的位置:主页 > 新闻中心 > 行业动态

事故丨因误用ChatGPT,三星电子半导体机密资料遭外泄

作者:admin 发布日期:2023-04-03  浏览次数:0
据Digitimes报道,三星电子引入ChatGPT不到20天,便被曝出内部机密资料泄漏的意外事故,涉及半导体设备测量资料、产品良率等内容,传已经被存入ChatGPT的数据库中。

综合Economist、SBS等韩媒消息,三星内部发生3起在ChatGPT误用与滥用案例,如三星内部人员在ChatGPT上提问、验证答案,却让这些答案成为ChatGPT的学习资料库,若有其他使用者在ChatGPT上提出相关疑问,恐让三星企业机密外流,而此次ChatGPT误用与滥用案例中,有2件与半导体设备相关,另外1件则属会议内容。

三星半导体.jpg

据悉,三星电子半导体暨装置解决方案(Device Solutions;DS)部门的A职员(匿名),日前执行半导体设备测量资料库(DB)下载软体时,因原始码出现错误,A职员便複制出有问题的原始码到ChatGPT,并向ChatGPT请教解决方法,但这一操作反而让三星设备测量相关的原始码成为ChatGPT学习资料。

其余2件案例也是相似情形,如三星DS部门的B职员(匿名)为了解设备良率等资讯,将制作的程式码输入进ChatGPT中,并要求ChatGPT优化其程式码;另外三星DS部门的C职员(匿名)则是要求ChatGPT制作会议纪录。

为杜绝类似事故再发生,三星正在制定相关保护措施,若之后又发生类似事故,三星内部也可能会切断ChatGPT服务。据传,三星正考虑透过DS部门中的创新中心研发三星专属AI服务。

对此,三星透过公告叮嘱职员注意ChatGPT的使用方式,并提醒使用者在ChatGPT输入内容后,相关资料都将传送到外部服务器,三星无法回收外流资料,因此如果让ChatGPT学习三星内部资料,可能会让敏感内容外流。

其实,在ChatGPT的使用指南中也特别呼吁“使用者不要输入敏感内容”,最初三星也因担忧内部机密外泄而禁用ChatGPT,不过基于半导体是“生成式AI”的建构基础,三星自2023年3月11日起放行DS部门使用ChatGPT,但装置体验(Device eXperience;DX)部门仍禁用ChatGPT。

然而三星DS部门放行ChatGPT的政策不到20天,就出现内部机密资料外泄疑虑,证实先前部分观点的担忧,三星也在认知内部资料恐外泄的风险后,紧急将每一个ChatGPT提问容量限制在1,024byte以下,日后也不排除做出惩处。文章来源:digitimes