По крайней мере с модулем sim900, не имеет значения в каком регистре вводить команды, хоть большие хоть маленькие хоть в перемешку.(специально проверил сейчас =)
модем же "АВ" с двумя 232м и 485м интерфейсами. Может в переходнике 232/485 проблема? А вообще лучше вместо гипертеминала пользоваться программой "putty" намного удобнее.
С модулем sim900 при загрузке модуль выдает сообщения "RDY +CFUN: 1 +CPIN: READY" так что и без отправки АТ можно проверить работу порта.