Скрипты 3DCoat - это обычные текстовые файлы, внутри которых напечатан код на AngelScript.

Если знаком с C++, писать код на этом языке тебе будет очень просто. Также, как C++код, код на AngelScript выполняется очень быстро, поэтому можно создавать довольно сложные обработки.

Скрипты писать удобно в текстовом редакторе с подсветкой синтаксиса.

Например, Notepad++ - хороший выбор. В меню "Синтаксисы" выбери "C++".

После создания текстового файла, стартуй его из 3DCoat в меню "Скрипты / Запустить скрипт".

С чего начать? Начни с примитивов.