本书由佩里·卡彭特撰写，是一本在这个复杂的数字环境中生存的b备指南。作为网络安全和防欺诈专家，作者深入探讨了生成式AI（Artificial Intelligence，人工智能）技术带来的潜在危险，并为读者提供了保护自己免受网络诈骗和威胁的策略。对于想要利用技术并在不断演化的数字环境中保持安全的人来说，本书提供了实用的防御策略。此外，作者也传达了对技术的未来及其潜在积极用途的乐观态度。本书的目标读者包括：普通技术用户、网络安全专业人士、教育工作者和学生、企业和组织管理者、政策制定者和法律专家。
揭秘AI新型诈骗与虚假信息专家教你如何识破与应对
（1）AI能复制声音、制作假视频、写出令人信服的文字，我们要如何判断真假？欢迎来到AI驱动的骗局时代，一个只需敲几下键盘就能创造全新虚拟现实的世界。
（2）网络安全专家、欺骗学资深研究者佩里卡彭特将带你走出这片数字雷区。在《AI欺诈：深度伪造与虚假信息防御》里，他为你准备了应对AI时代挑战的知识与工具。
（3）通过引人入胜的叙述，卡彭特以讲故事的方式，让复杂的AI概念变得浅显易懂，帮助读者从可能的受害者变成聪明的防御者。本书结合数字操控的科学理论与实际案例，提供了防范复杂AI诈骗的系统策略，为个人和企业构筑有效的防护体系。它揭开了AI的神秘面纱，以易于理解的方式向大众普及重要知识。
纪念凯文·米特尼克（1963年8月6日2023年7月16日）
你证明了，揭开欺诈的面纱，是防御的第一步。
从数字骗子到网络卫士，你的成长历程不断提醒我们，探索的渴望与坚守的诚信可以共存。
愿你那飞扬的求知欲、充满感染力的笑声与传道授业的热忱，长久绽放，影响更多的人。
序 言
我刚刚在1500多人面前，现场黑了佩里·卡彭特的电脑。
当然，这只是一场事先安排好的演示，佩里完全知情，我的行为也没有造成真正的伤害。但那一套技术绝对实打实，尤其是在目标毫无察觉时，效果尤为显著。
这些年，我凭借黑客技术攒了一些名气，我能轻松突破他人的安全防线，尤其是那些高调人物。我曾对CNN的罗尼·奥沙利文（Donie OSullivan）、亿万富翁杰弗里·卡森伯格（Jeffrey Katzenberg）、《60分钟》记者沙琳·阿尔方西（Sharyn Alfonsi）以及其他一些公众人物进行过类似的黑客攻击。每一次，我都会看到同样的反应：惊掉下巴，双眼圆睁，你几乎可以听到他们心里的声音：我的系统有那么脆弱吗？
在我一步步带领观众解读每一个攻击细节时从深入挖掘佩里的开源情报、精准克隆他那独具特色的声音（他的声音特别有趣），到精心设计极其个性化的攻击手段我能清晰地看到他们脸上的震惊。现场充满了倒吸凉气的声音。这不仅仅是一场理论上的攻击，它仿佛打开了一扇通向网络犯罪分子大脑的窗户，展示了我们的数字和人工防御是多么无力。
作为一名黑客（友好的那种）和社会工程领域的专家，我多年来一直在研究人类神经科学和技术中的漏洞，这些漏洞常常被心怀不轨者恶意利用。我亲身体验过，如何通过一封精心设计的钓鱼邮件或一次巧妙的电话沟通，轻松绕过最复杂的安全系统。但近几年，人工智能的崛起彻底改变了游戏规则，它使得社会工程学的能力得到了前所未有的提升。
如今，人工智能所能发动的攻击令人瞠目结舌。大多数人已经分不清什么是真实的，什么是机器合成的。照片、视频、声音、文字，人工智能都能造假。这不仅仅是派对上的小把戏或恶作剧，它会影响到人际关系，甚至全球政治直接动摇了人类信任的根基！
别误会，人工智能并非一片悲观的阴云。它蕴藏着无尽的潜力，可以帮我们解决问题、改善生活。然而，正如任何强大的工具一样，若被错误使用你大概能预见后果。本书问世时，世界正在经历重大事件，比如2024年美国大选，书中的见解恰逢其时，它为我们提供了清晰的指引与启示。
在美国总统大选期间，我们目睹了越来越先进的人工智能工具在电子邮件、电话、短信和视频攻击中的应用。
佩里不仅仅是在解释威胁。他将这一切分解为切实可行的策略，向我们展示了人类自身的怪癖如何被人工智能的诡计所利用，然后他给了我们反击的工具，一步步教我们如何保护自己和我们的社区。
人工智能加持的社会工程学新纪元，仿佛进入了一片无序的荒原。然而，通过阅读佩里的书，你将掌握一套实用的应对策略，从而能够在深度伪造与人工智能欺诈的迷雾中从容前行。
无论你是安全专家、企业领导，还是一个关注人工智能社会影响的普通人，这本书都是这个时代的指路明灯。在这充满变数的时代，保持适度的警觉吧，朋友们。
雷切尔·托巴克（Rachel Tobac）
白帽黑客、SocialProof Security 首席执行官
佩里卡彭特（Perry Carpenter） 他是一位多次获奖的作家、播客主和演讲家，在网络安全领域深耕二十余年，主要研究网络犯罪对人性的利用。目前，他是KnowBe4的首席人类风险管理策略师，致力于打造以人为核心的防御体系，防范社会工程攻击。
刘怡 毕业于北京第二外国语学院国际会议传译专业。云南师范大学外国语学院教师，同声传译译员，CATTI一级笔译。出版《商业计划书撰写指南》《商业化学反应》《富过三代：家族财富传承》《第六次浪潮》等译著13本。
目 录
引言 ChatGPT，给我出个题吧 1
第1章 永恒的心智博弈：为何它关乎你的未来 10
电波中的耳语 10
很高兴见到你，希望你猜到了我的名字 11
欺诈和骗局的历史背景 12
数字时代：欺诈的新时代 14
深度伪造的崛起：从明星面孔到政治破坏 17
合成媒体的深远影响 18
合成媒体为何能突破我们的防线？ 19
认知安全：在数字时代保护我们的心智 20
要点总结 21
第2章 欺诈的新领域：人工智能与合成媒体 23
电波中的耳语 23
拐点 24
人工智能发展简史 25
人工智能有生命吗？它真的能理解吗？ 33
要点总结 37
第3章 数字操纵者的心态和工具 38
电波中的耳语 38
黑客如何使用技术和解决问题 41
欺诈学入门：黑暗艺术初探 44
窥探深渊 52
要点总结 56
第4章 偏差、数据投毒和输出异常 58
电波中的耳语 58
幻觉：人工智能创造力的双刃剑 60
严重偏差问题 62
未能有效控制偏见的尴尬实例 65
后果与前进之路 71
要点总结 72
第5章 数字虚假信息大流行 74
电波中的耳语 74
谎言、该死的谎言和互联网 75
人工智能驱动的虚假信息格局 81
人工智能生成的虚假信息的类型和应对策略 82
要点总结 86
第6章 深伪技术与数字欺诈的广大范畴 88
电波中的耳语 88
在互联网上，没人知道你是一条狗 90
深度伪造到底是什么？ 91
低技术欺诈的寒蝉效应 94
绝命毒师：不良行为者如何腐化人工智能系统的道德底线 99
越狱被高估：无审查的AI系统 111
将无害的输出变成武器 114
关于数字欺诈难以忽视的真相 116
要点总结 117
第7章 人工智能驱动的欺诈：现状与未来 119
电波中的耳语 119
进入被信息操控的区域 121
欺诈、诈骗和犯罪的支柱 124
人工智能驱动的骗局：老把戏，新工具 127
新出现的威胁 131
我的故事：我如何创建多个由GenAI驱动的诈骗机器人 136
寻找希望 138
要点总结 138
第8章 人工智能时代的媒体素养：你的第一道防线 141
电波中的耳语 141
为真理而战 143
在开始之前…… 145
数字时代的媒体素养：你的信息丛林生存指南 148
事实核查悖论：在充满谎言的世界中寻求真相 155
要点总结 164
第9章 认知和技术防御策略：保护工具 167
电波中的耳语 167
建立我们的认知防线 169
技术防御 181
总结：在数字时代保持警惕 188
让我们玩点有趣的：提升你的思维与数字防护技能 188
要点总结 190
第10章 新的希望 192
电波中的耳语 192
罪犯有手段、动机和机会，我们也有 194
让我们玩点有趣的：实战 198
要点总结 200
附录 技巧、窍门和资源 205
五大安全建议和做法 208
致谢 211
作者简介 214
书单推荐
