硬件加密是指加解密都用专门用的硬件设备操作，如加密机、加密卡或IC卡等；软件加密指的是加解密都用软件模块操作。
硬件加密与软件加密主要体现有以几方面的不同。
1.密钥的安全性
软件加密时，密钥存储在内存或硬盘中，很轻易被获取。
而硬件加密时,密钥的生成及保存都在设备内部,而且采用了各种防护措施(如开机密钥自毁、密钥成分背对背输入等措施)防止密钥泄露；同时种种密码运算都在加密机内部,因此可从密钥根本对其安全保护。
2.加密过程中的数据安全性
软件加密时许多重要数据或敏感信息(如做密码运算的密钥,或顾客的个人密码)都可在某个时刻以明文形式存在电脑的内存或磁盘中。几乎全部应用业务系统都用现今流行的通用型操作系统,安全级别仅达到C2级,其本身有很多的安全隐患和漏洞,而且属于国外产品,其内部有很多后门已是众所周知,很易被非法分子或恶意攻击者侵入或控制。所以用软件加密会让不法分子有机会从不安全的操作系统中读取、利用、修改或删除关键数据,不能确保加密过程中的安全性。
用硬件加密时,涉及到的全部重要数据或敏感信息的加解密和密码运算都在加密机内部完成,不可能有任何危害客户利益的资料暴露于加密机之外,从而从根本上保证了加密过程中重要数据或敏感信息的安全性。
3.加密运算速度
软件加密借助在业务主机上操作加密软件实现加密功能,要占用主机资源,通常它的运算速度比硬件加密设备要慢许多。
而硬件加密是由与主机系统独立外的硬件加密设备达到的,硬件加密模块内部本身有很强大的加解密处理模块,凡与加密运算有关系的功能均通过硬件加密设备处理，几乎不占用主机资源,可以显著提高业务系统的处理能力。
4.运营维护方便性
软件加密模块一般与业务系统运行在相同主机中,模块独立性差,升级维护困难,很难保证业务系统7*24小时永不间断的服务宗旨,一旦出现故障,将会给客户的经济利益和社会形象带来巨大影响。
硬件加密模块与各种业务处理系统物理上独立,独立性好,升级维护简单,能从根本上使业务系统7*24小时的服务宗旨。
5.密码设备本身的安全性
软件加密自身安全性很难保证。
硬件加密模块能保证自身的安全性。国际上有专门的加密设备安全规范,如FIPS PUB140-2加密模块的安全要求Level1-4,国内加密设备在上市前要通过密码管理部门制定的安全测试规范。例如,FIPS 140-2规定,密码设备必须采用双重控制和知识分离的密钥管理规范:双重控制是指两或以上的人同时操作才可正确操作密码设备,来避免机密信息被一个人进入设备后掌控；知识分离是指由两人或以上的人分别安全保管不同的密钥段,只有同时操作才能重新产生密钥,来避免关键密钥被单个人掌控。FIPS 140-2还规定,如欲非法获得或修改被输入、保存或处理的敏感信息,一定要用物理方法侵入密码设备；同时要求任何成功的物理侵入将在物理上的损毁密码设备,而且无法在不被发现的情况下复原。
