Собственный протокол устройства + OPC сервер

[SCADAMaster]

Во-первых вопрос: куда мне прописывать скрипт? В Устройство? или Тег?

Это зависит от архитектуры. Если вы например опрашиваете одно значение (для одного тега), то лучше размещать скрипт в теге. Если один запрос опрашивает за раз несколько значений, то тогда лучше у устройства или подустройства.

В коде мне требуется поменять в строке send[1] = "#"; решетку на @.

Да

В send[3]="\r"; меняю \r на 02h ( так как в протоколе устройства 3-им в запросе идет команда)

Только просто "02".

Добавляю send[4]="..."; Что в него прописывать я не понимаю...
Добавляю send[5]="*"; так как <*> - (ASCII – 2Ah)- стоповый байт кадра.

Вот здесь проблема.
Обычно при работе с DCON конец кадра сигнализирует символ "перевод каретки" (\r). У вас же - звездочка.
У нас при работе функции SendAndReceiveDataByMask, при подсчете контрольной суммы DCON в обязательном порядке должен быть символ перевода каретки. Поэтому в вашем случае автоматический подсчет контрольной суммы не подойдет.
Вам придется сделать подсчет контрольной суммы вручную (сделайте отдельную функцию и вызывайте - посмотрите пример Rnet в документации)
Вот здесь описано как считать контрольную сумму у DCON (страница 10):
http://www.ssau.ru/files/resources/s...rafkin_a_v.pdf
Поищите - может быть найдете готовый код на другом языке (перевести на Lua будет не сложно).