Питание на микросхему подается 5 Вольт,но напряжение сигнала на выходе RS232 достигает 15-17 Вольт.Это достигается благодаря тому,что на микросхеме собран повышающий преобразователь напряжения на конденсаторах.

Проверить микросхему легко.Подаем напряжение уровнем 3-5 Вольт через резистор 10 кОм на вход КМОП,на выходе RS232 при этом будет напряжение около 15 Вольт (скорее всего будет минусовое как у меня на картинке).

На другой микросхеме max232 подавал 5 вольт получал -13,76 вольт.

Если подать на вход RS232 напряжение 12 Вольт также через резистор,то на выходе КМОП будет нужная единица или 5 Вольт.

На другой микросхеме max232 подавал 12 вольт получал -4,12 вольт.

Проверка 2:
Далее проверяем следующим образом:
После сборки втыкаем в разъём COM порта. Подается 5 В питания на микросхему (можно от USB), а затем замыкаем Rx и Tx.
Дальше открываешь любую терминалку, хоть Hyper Terminal цепляешься к порту и начинаешь посылать байты, они должны тотчас возвращаться обратно. Если этого не произошло – проверяй схему.