在手机上取消银行卡短信服务，可以通过以下几种方式。
通过银行客服办理
1、拨打银行客服电话，农业银行客服电话为95599。
2、转到人工服务并告知客服想要取消短信通知服务。
3、提供个人身份信息和银行卡号进行身份验证后即可取消短信通知服务。
方式二：通过网上银行办理
1、登录银行官网，找到“个人网上银行登录”选项。
2、输入个人网银账号和密码进行登录。
3、进入个人网银页面，找到“账户管理”或“账户通知服务”等选项。
4、点击关闭短信通知服务选项，并按照页面提示进行操作即可取消短信通知服务。
方式三：前往银行柜台办理
携带有效身份证件和银行卡到附近的银行网点柜台办理取消短信通知服务，告知工作人员需要取消短信通知服务，提供个人身份信息和银行卡号进行身份验证后即可取消，部分银行在办理时需要收取一定的手续费。
还可以通过编辑短信取消相关业务绑定手机号的短信通知服务，具体需要根据银行提供的代码进行操作，需要注意的是，不同银行的短信通知服务取消方式可能有所不同，建议根据实际情况选择最适合自己的方式进行操作，为了保证账户安全，建议在取消短信通知服务后关注其他账户安全保护措施，具体操作步骤可能因银行不同存在差异，如有疑问可咨询银行客服人员。
