Добрый день,
А какая у вас версия jmix? Возможно нужно добавить параметр jmix.rest.authenticated-url-patterns в application.properties:
jmix.rest.authenticated-url-patterns=/process-api/**
Также есть библиотека jmix-bpm-rest-starter, которая включает Flowable REST API. Для подключения нужно добавить зависимость:
implementation 'io.jmix.bpm:jmix-bpm-rest-starter'
Нужно учитывать, что в jmix-bpm-rest-starter изменен путь к flowable endpoints:
flowable.process.servlet.path=/rest/bpm/process
flowable.dmn.servlet.path=/rest/bpm/dmn