人工智能正在为黑客提供一系列新的途径，通过新的、复杂的骗局，甚至攻击智能设备，来利用脆弱的澳大利亚人——它们的快速发展导致缺乏熟练的网络安全专业人员来阻止它。
澳大利亚知名网络安全专家陈超博士发出这一严厉警告之前，复杂的网络诈骗已经成为一种严峻的趋势，仅在上个财政年度，澳大利亚人就损失了27.4亿美元。
2020年，澳大利亚人在向Scamwatch、ReportCyber、IDCARE、澳大利亚金融犯罪交易所(AFCX)和澳大利亚证券公司报告的诈骗中仅损失了8.51亿美元
根据竞争监管机构的数据，投资委员会(ASIC)是如此。
为好奇的澳大利亚人提供政治、商业、文化和观点方面的新闻。
读到现在
但这一数字在2019冠状病毒病大流行期间有所上升——2021年飙升至18亿美元，然后在2022年达到创纪录的31亿美元。
陈博士是RMIT商业与法律学院企业人工智能和数据分析中心的副主任，他表示，人工智能已经使主要技术变得比以前更加个性化和响应迅速，并简化了日常活动。
但他表示，这是一把双刃剑，表明人工智能驱动的工具可以自动化和扩大网络攻击和骗局。
陈博士说:“虽然这类事件最初可能很少发生，但人工智能工具的可用性越来越高，这些攻击的复杂性也越来越高，这表明威胁正在上升。”
“我们已经注意到，在过去几年中，人工智能增强的网络钓鱼诈骗、勒索软件攻击和深度造假相关事件显著增加。”
早在本月，新南威尔士州警方就一项令人不安的骗局发布了警报，该骗局利用人工智能制作假视频或假消息，模仿一个人的亲人或名人，欺骗人们进行虚假投资。
猎人谷居民加里·米琴就是这样的受害者之一，他在Facebook上的一场投资骗局中损失了40万美元的积蓄，这场骗局似乎是由亿万富翁埃隆·马斯克、澳大利亚总理安东尼·阿尔巴内塞、前总理朱莉娅·吉拉德等名人发起的。
其他还包括使用当地政客的肖像——阳光海岸市长罗珊娜·纳托利透露，她的肖像曾被用于这样的骗局，有人用她的名字和照片伪造个人资料，试图通过信使与人们联系，获取他们的银行信息。
还有一些人利用人工智能来制造像著名科学传播者卡尔·克鲁泽尔尼基博士这样的人来宣传虚假的健康骗局，或者把电视明星大卫·科赫的照片放在点击诱饵式的图片中。
海外也出现了更令人担忧的趋势，英国工程巨头奥雅纳被曝卷入了一场复杂的深度造假骗局，导致一名香港员工向诈骗者转移了2500万美元。
陈博士表示，参与制作这些骗局背后的虚假图像、视频和声音的人工智能工具将使他们能够“自动化和扩大”网络攻击，甚至使当局更难发现它们。
他指出，研究发现，人工智能可以扫描软件和网络中的弱点，从而比黑客使用的人工方法更快、更准确地识别潜在的入侵点。
陈博士表示，另一个风险是人工智能被黑客利用，他们可以对输入数据进行“微妙的、通常是难以察觉的修改”。
他说，这将导致人工智能模型做出错误的预测或分类。
一个这样的例子发生在近10年前，当时微软(Microsoft)设计的人工智能聊天机器人Tay被用户操纵，发布了种族主义、性别歧视的言论，并提到了阿道夫·希特勒(Adolf Hitler)。
陈博士说:“这些对抗性的例子可能会在自动驾驶汽车、医疗诊断和金融欺诈检测等关键应用中误导人工智能系统。”此外，通过分析人工智能模型的输出，攻击者可以推断出有关训练数据的敏感信息。
“例如，反转面部识别模型可以让黑客重建训练数据集中使用的个人图像。”
瑞士Idiap研究所最近的一项研究测试了这样一个场景，研究人员开发了一个模板，其中包含“预先训练的几何感知面部生成网络”，并对真实和合成面部进行了映射训练。
人工智能生成的假视频被用于诈骗和网络恶作剧，但如果它们被用来干预选举，会发生什么呢?
陈博士表示，网络安全专家已经发现，近年来，澳大利亚各地人工智能增强的网络钓鱼诈骗、勒索软件攻击和深度造假相关事件显著增加。
澳大利亚竞争和消费者委员会(ACCC)对2023年骗局的最新报告发现，仅去年一年，澳大利亚人就因虚假投资骗局损失了13亿美元。
陈博士说，尽管人们越来越意识到骗局和人工智能的潜力，但澳大利亚仍面临着人工智能技术专业人员的“严重”短缺。
他说:“人工智能驱动的威胁的快速发展使得传统的安全措施难以跟上。”
“此外，组织在努力遵守不断发展的标准时，面临着监管和合规方面的挑战，这对于小型企业来说尤其需要资源密集型。
“网络安全公司必须专注于技术进步，例如开发和部署人工智能工具来识别和减轻人工智能产生的骗局。
“建立快速反应小组来处理人工智能产生的诈骗，并进行事后分析，将进一步加强该行业应对这些威胁的能力。”
联邦政府也担心人工智能被利用。
澳大利亚信号局(ASD)的一位发言人表示:“人工智能带来了风险，比如恶意行为者利用人工智能工具扩大他们的活动，比如利用生成式人工智能为网络钓鱼攻击提供低成本、高质量的材料。”
这段音频信息发送给人们，试图让他们为所谓的投资机会转账。
“对于使用人工智能技术，特别是生成式人工智能的个人，ASD建议应用与使用任何在线工具相同的基本安全原则，包括强密码，及时更新设备软件，并引入多因素身份认证来登录在线帐户。”
ASD定期更新信息安全手册(ISM)，该手册为政府和企业提供有关如何最好地保护其系统和数据的建议。
ISM在《人员安全准则》中包括关于人工智能工具、服务和实施的建议;采购及外判;网络安全事件;和软件开发。
原标题为《人工智能如何为黑客利用澳大利亚人开辟了新的途径，而专家们却无力阻止》
