针对互联网上使用生成式AI制作的虚假信息，为了使可辨别这些信息的技术走向实用化，日本总务省将从2024年度开始提供支援。目标是确立判断图像、声音等是否进行过加工、数字内容是否可靠的技术。
发生灾害时网上会出现房屋被水淹没的虚假图像，冒充名人的广告导致投资欺诈纠纷的事情也时有发生。由政治家的声音编辑而成的虚假视频在网上传播，引发社会动荡的风险增大。
日本总务省将开始对两种技术提供支援，包括（1）虚假图像、影像、声音辨别技术；（2）能够判断出网上流通的内容的真实性和可靠性的技术。这两项业务都有IT企业、研究机构、事实核查（Fact Check）机构、社交网站运营商等参与。通过支援使开发方和用户方可以交换意见。
设想的支援对象是，通过机器学习来分辨出虚假图像特点等的技术、着眼于虚假信息特有的失真之处进行检测的技术。利用人类血流状态对皮肤带来的细微变化来分析影像的技术也是有力候选。
在判断数字内容可靠性的技术方面，候选技术是通过加上电子“水印”来防止篡改，或者在内容中附加来历信息或发布者信息。
还包括民间开发的技术。比如，初创企业NABLAS（位于东京都文京区）成功实现了虚假图像辨别技术的实用化。富士通正在与庆应大学合作，开发能够证实数据可靠性的信息赋予技术。
日本总务省希望通过此次的框架制度，推进技术改良。同时期待能够通过多项技术的融合来实现技术革新。日本拥有一般社团法人运营的日本事实核查中心等。有观点指出，与美国等国家相比，日本判断信息真伪的机构较少。
日本经济新闻社
