1) У Вас очень странно настроен станок, если не сказать большего...
В частности по оси Y стоит аномальное смещение зеркала в 25 мм. При таком программном смещении начальной позиции положения мотора с зеркалом оно (зеркало) будет недобирать одно из крайних положений, сработает ограничение в драйвере управления (стоит в сканаторной головке). Кто и зачем выставил Вам такое значение - остаётся загадкой. По другой оси у Вас тоже выставлено смещение (в 2 мм). Это ещё как то допустимо и используется (иногда) для того, чтобы откорректировать попадание лазерного луча в центр линзы.
В большинстве случаев параметры Offset X и Offset Y должны быть равны нулю.
2) Чем обусловленно выставление галочки параметров Negate для обоих моторов ?
3) Судя по вашему видео (длительностью в 1 секунду) удалось рассмотреть , что коррекция геометрических искажений выставлена не правильно. В частности имеет место быть вогнутость по левой грани.
4) Также удалось рассмотреть, что линии начала и конца контура не сходятся в одном месте.
5) Для вашей длинофокусной линзы с пятном лазера в точке фокусировки около 60-70 микрон Вы используете слишком странные значения расстояния между линиями штриховки (оно у вас на порядок меньше, чем диаметр лазерного луча). Кто вам это посоветовал ?
Для начала, настройте Вашу лазерную установку так, как надо. Потом уже можно будет судить по новым результатам что и где у Вас не так гравируется.