[비즈한국] 人工智能（AI）不仅正在改变产业和日常生活，还在影响国家的行政和执法系统。警察厅、检察厅、国税厅近期纷纷设立或扩大了AI专门机构，着手构建将AI引入调查、案件处理及民政业务的系统。此举虽旨在提升效率与准确性，但考虑到这些机构所掌握的信息和权力直接关系到国民的基本权利，AI引入的份量也非同寻常。Bizhankook将深入剖析警察厅、检察厅、国税厅等三大执法机构的AI转型现状及其在推进过程中所面临的课题。
警察厅正在加快将人工智能（AI）引入调查和民政业务全过程的步伐。无论是判例检索、逮捕令申请草案撰写、嫌疑人审讯笔录问题推荐，还是民政咨询受理支持及深度伪造检测，AI正超越辅助工具的范畴，日益贴近实际治安行政的决策过程。为提供支撑，警察厅正在优化专门组织架构，并推进基于内部网络的AI集成平台及治安专用大语言模型（LLM）的开发。
综合Bizhankook的采访内容，警察厅近期正在进行“AI影响评价及风险管理方案制定”的政策研究。该项目合同金额为4100万韩元，执行周期为120天，由ThinkForB负责执行。警察厅相关人士表示：“计划于今年年底完成研究。”与此同时，关于“AI引入后的警察厅个人信息保护体系升级方案”的研究也在推进中。其核心在于审视AI学习和推理过程中可能产生的再识别风险、数据偏见，以及CCTV影像分析时的个人信息保护标准。
这两项研究带有强烈的应对性质，旨在响应《AI基本法》（关于人工智能发展及建立信任基础等的法律）以及将于明年2月底施行的《公共AI法》（关于激活人工智能及数据基础行政的法律）。评估认为，在《AI基本法》和《公共AI法》框架下，治安领域的多种AI极有可能被分类为“高影响人工智能”。《AI基本法》赋予了确保透明度和构建风险管理体系的义务，而《公共AI法》则规定公共机构在引入AI之前必须制定影响评价和风险管理方案。
从指挥塔到集成平台
警察厅正结合上述制度与法律基础的完善，从组织与基础设施重组、扩大AI在调查与现场业务中的应用等三个方向加快AI转型。
今年3月，警察厅将未来治安政策局下属的“未来治安政策课”改组为“治安人工智能政策课”，正式确立了AI专门指挥塔。原有的治安AI创新专责小组（TF）被整合进正式组织，并新设了局长直属的人工智能合作官职位。信息化基础课也更名为治安人工智能基础课。
在组织改组的同时，警察厅还在推进构建用于将生成式AI应用于行政业务全过程的“AI集成平台”。通过由WearBiz执行的信息化战略规划（ISP）项目，目前正在探讨将报告撰写、翻译、文档摘要等AI功能与警察内部网络“PolNet”进行关联的方案。负责该项目的警察相关人士表示：“计划今年完成ISP项目，并争取将其反映在明年的预算中，以便正式开启构建工作。”
警察大学目前正负责治安专用大语言模型（LLM）的开发。今年4月，针对总警（相当于大校/警长）及警正（相当于中校/警监）级管理人员的“治安AI领袖培养教育（CAIO）”也已启动，课程涵盖生成式AI、物理AI、AI安全与伦理等内容。
AI深入调查现场……是否存在隐忧？
于2024年11月引入的调查支援AI“KICS-AI”此前一直负责支持判例检索和逮捕令申请草案的撰写。通过总规模达46亿韩元的升级项目，其功能将扩展至撰写司法警察官决定书及调查结果通知书、推荐嫌疑人审讯笔录问题、制作犯罪一览表，以及利用起诉书和判决书构建调查反馈体系。从去年开始，AI在数字取证领域的应用也在积极推进。
在民政领域，作为政府“公共人工智能转型（AX）项目”课题之一，投入107亿韩元开发的“大家的警察官”正在研制中。该系统计划与警察民政24、182呼叫中心等联动，预计在2027年12月前提供民政咨询、受理及文档撰写支持。本月18日，由200名国民和一线警察组成的咨询团举行了成立仪式。
然而，围绕治安AI的扩散，对其有效性和安全性的担忧同样不容忽视。人脸识别、语音诈骗AI拦截、调查报告自动化等均属于《AI基本法》下的“高影响AI”，警察厅之所以着手制定影响评价和风险管理方案，也被解读为意在从制度上消解这些担忧。
警察大学教授李相烨在分析海外学术数据的论文中指出，警察AI研究的核心关键词是“数据（Data）”，他表示：“国内警察AI研究偏重于法学或行政学等制度性视角，而海外则以基于计算机工程的技术应用研究为主。现在不仅需要应对人工智能带来的法律争论，还需要进行技术升级研究，以便将其安全地应用于警察业务。”
东国大学信息保护研究生院教授黄锡珍表示：“在撰写嫌疑人审讯笔录或进行调查、行政支持等需要保持中立的业务中使用AI，却缺乏验证手段。此外，非法外泄信息或制造不存在事实的幻觉（Hallucination）问题，其验证难度也非常高。”他还指出：“目前仅能利用法制处的判例，图像及视频识别存在难度，数据本身存在局限性。如果算法中反映了偏见，透明度将难以保障。当出现问题时，究竟由谁承担责任，目前几乎没有相关的制度性准则或手册。”
因此，也有建议称应从那些对警察裁量权触及较少、抵触心理较低的技术开始，分阶段地进行引入。
对于这些担忧，警察厅相关人士解释说：“警察厅计划对所有AI相关项目进行影响评价。高影响AI涉及国民日常生活和基本权利，因此我们要评价是否存在侵害这些权利的部分。”他补充道：“计划在明年法律正式施行前，完善相关标准，建立能够系统化管理风险因素的基础。”