众志天成AI专家分享探讨：AI时代下的安全思考15
发表时间：2025-09-06 12:12 6月13日上午，众志天成人工智能专家韩兆会受邀参加深圳市龙华区工业和信息化局、国家工业信息安全发展研究中心深圳分中心主办的“智检赋能·质领未来”人工智能赋能产业发展活动现场，并进行主题为《AI时代下的安全思考》压轴演讲。  韩兆会表示：随着AI技术的发展，其安全性问题日益凸显，一旦被恶意利用，将对社会、经济、乃至国家安全带来巨大威胁。因此，保护AI安全至关重要，关乎公民隐私、信息安全、国家利益。为了确保AI技术健康发展，无论个人、企业、组织等都需要重视AI安全，加强技术研究，健全相关法律法规，以促进AI安全与发展的有机统一。  同时，对于目前人工智能安全出现的挑战，提出了以下四点内容：
人工智能应用过程中，由于代码漏洞和数据管理不当，可能导致敏感数据泄露，对个人隐私造成威胁。 人工智能算法可能学习到数据集中的偏见，对数据进行有倾向性的推断，引发歧视问题。 利用AI模型的弱点，攻击者可以通过生成虚假数据、添加噪声等手段，对AI系统进行对抗性攻击，引发安全隐患。 AI的广泛应用引发了许多法律和伦理问题，需要建立完善的法规和监管体系，确保数据安全和隐私保护。 最后，对于增强人工智能安全意识，确保人工智能健康发展的目标，总结出以下5点结论：  加强法律法规制定  保障AI在使用过程中的安全，完善相关法律法规，对违法行为进行追责。 引导企业及用户遵循AI道德伦理，强化对隐私、安全等问题的关注。 发展先进的AI安全技术，增强网络安全防护能力，保护用户数据安全。  加强政府、企业、学术界等多方合作，共同应对AI安全挑战。 提高用户对AI安全风险的认识，培养公众正确的使用习惯。 作为一家专业的IT服务提供商，众志天成致力于信息安全解决方案十余年，面对当前如火如荼的人工智能技术，众志天成可提供从规划设计、交付实施、安全评估一站式全流程解决方案与服务，为客户在人工智能技术研究与应用中保驾护航，详情请咨询销售经理或客户服务热线18098910850/400-0630-880
|
