两用风险（dual-use risk）
/ DOO-ul-yoos RISK /
两用风险，是这样一种性质：同一项技术，既能用于巨大的善，也能用于严重的恶，而二者之间并没有一条干净的界线。造化肥的那套化学，也造炸药；设计疫苗的那套生物学，也可能设计出病原体。AI是深度「两用」的：一个用来寻找药物分子的模型，把目标一翻，就能去提议毒素；那个让失踪儿童与家人团聚的人脸识别，也能驱动大规模监控；那个帮学生写作的助手，也能批量炮制诈骗。
棘手之处在于：危险通常并不寓于技术本身，而寓于「你选择把它对准何方」。你往往无法把一项能力做成「只能行善」，除非连那些行善的用途也一并废掉——正是那份让工具强大的「通用性」，使它得以被滥用。所以两用风险无法靠一个总开关解决；它是靠层层手段去管理的：谁能拿到使用权、系统出厂时带着什么护栏、什么公开发布、什么按下不表、以及什么法律去管束那些最坏的应用。
它为何重要：这重新框定了一个诱人却虚假的问题。「这个AI是好是坏？」通常没有答案；更好的问题是「对谁好、对谁坏，怎么用、谁来用，配着什么防护？」诚实的张力是真实而悬而未决的：把一切都锁死，会让权力集中、扼杀有益的研究与监督；而把一切都公开发布，又等于把能力一并交到了坏人手里。通情达理、善意满满的人们，对「界线该画在哪里」是有分歧的——而那种「尽收其利、不沾其险」的设定，几乎从来都不存在。
研究者打造了一个AI来设计安全的药物分子，办法是引导它「远离」毒性。作为一次测试，他们把那一个目标翻转，改为引导它「奔向」毒性——一夜之间，它就提议出了数以万计的候选有毒化合物，其中一些与已知的化学武器制剂相似。同一个模型，仅仅翻了一个正负号。
一个药物发现模型，仅靠翻转一个目标，就变成了毒素发现模型——那份能力，自始至终都是同一份。
「这个AI危险吗？」是个问错了的问题——几乎任何强大而通用的能力，都是「两用」的。有用的问题是关于「使用权、意图与防护」的：谁能驾驭它、为了什么目的、又有什么挡在滥用之路上。一刀切地禁掉这项能力，往往连它的诸多益处也一并禁掉了。