新加坡:大多数中小企业已经转向人工智能来改善运营，但在确保安全方面可能做得还不够。
英国中小企业协会(ASME)最近对企业主进行的一项调查发现，90%的受访者曾尝试实施某种形式的人工智能解决方案。ASME主席Ang Yuit说，他们正在使用这种技术的一些领域包括物流和路由。
与此同时，该协会发现，报告遭受诈骗的公司数量同比增长了约20%。
他说:“许多企业都担心自己是否会被黑客入侵，以及自己是否会在经济上蒙受损失，尤其是当黑客入侵发生时。”
他补充说，他们的担忧不仅与人工智能有关，还与网络钓鱼和欺诈等其他违规行为有关。他说，尽管他们担心，但许多人愿意采取“观望”的态度来改善他们的安全。
他说，一家成员公司最近受到了网络钓鱼诈骗的攻击，其电子邮件系统被攻破，一名攻击者冒充公司员工，要求客户把钱转到另一个银行账户。
“越来越多的企业受到各种形式的攻击。所以你可以想象，随着更好的网络钓鱼欺诈的出现，使用深度伪造和人工智能，情况会变得更糟，”他说。
他补充说:“挑战在于，许多企业可能没有足够的带宽来真正正确地处理这些问题，尤其是中小企业。”他说，大多数企业依靠银行等金融机构作为他们防范诈骗的先锋。
其中一个挑战是识别深度造假。
新加坡网络安全局(CSA)在周五(3月22日)的一份报告中表示，今年2月，亚太地区一家跨国公司的一名财务人员被骗向骗子支付了2500万美元(3400万新元)。
在这起事件中，骗子利用深度造假技术在视频电话会议中假扮成该公司的首席财务官，说服该员工进行欺诈性电汇。
CSA对公司的主要建议是采取三个步骤来避免这些陷阱:评估信息，分析音频和图像，并验证内容。
海峡互动的创始人兼首席执行官Kevin Shepherdson先生向CNA展示了制作深度伪造是多么容易。
利用一个可以在个人台式电脑上运行的设置，他复制了这个骗局事件，“他”指示一名员工转移资金，过程中有轻微的延迟和错误的真实性信号。他的公司负责数据保护。
资料图片:这张摄于2023年6月23日的插图中，AI(人工智能)字母被放置在电脑主板上。路透社/Dado Ruvic/插图/资料照片
谢泼德森表示，在企业环境中使用人工智能最大的担忧是，企业正在使用人工智能工具ChatGPT的免费版本。
“这是你不应该做的事情，因为许多公司正在使用你的个人数据作为将你的个人数据货币化的一部分，”他说。
“所以发生的事情是，属于你公司的信息被用来训练人工智能，最重要的是……你想总结文件，你实际上可能上传了一份非常机密的文件。”
他补充说，还有数百个可用的人工智能应用程序所构成的危险，这些应用程序声称上传的数据将受到保护，而实际上并非如此。
国会议员Patrick Tay是政府议会民政事务委员会的成员，他说他对事态感到担忧，因为没有一个组织或国家能幸免。
“知识获取的局限性，伦理和使用，以及生成人工智能的政策是很重要的。它应该渗透下来，不仅从雇主和企业，而且到工人，因为我们只有在最薄弱的环节中才有力量。”
