Скриптинг 3DCoat содержит отлаженные классы для работы с 3D-графикой.

Ознакомься, пожалуйста, с ними, чтобы не изобретать велосипед. Назначение многих из них понятно из самого названия, если знаком с 3D-моделированием.

Примеры для этих классов находятся в самих классах: кликай по ссылкам!

AABB. Класс для работы с т. н. "ограничивающим параллепипедом".
Angles. Углы Эйлера. Картинки с примерами прилагаются к классу: кликай по ссылке.
Mat3 и Mat4. Матрицы трансформации.
Quat. Вращай кватернионами.
Vec2 и Vec3. Векторы. Куда же без них?

Поиграться с математикой можно на простых линиях: см. классы Line3 и Lines3.