Die neuen Formeln faszinieren mich auch -schön, dass es geklappt hat und das Design ist sehr sauber. Einfacher als mein Vorschlag.
In diesem Sinne räume ich hier auch mal auf

Ein eigenes Dateiformat ist meines Erachtens Overkill. Allerdings sollte das Feature nur im Dokumentenmodus zur Verfügung stehen.
Die Platzhalter müssten wie einfache Vektoren implementiert sein - mit dem Effekt, dass das Fenster auch rund sein kann. Implementierung wie ein komplexes Füllmuster, auch dieses muss vorberechnet und gebuffert werden. Ist Dir aufgefallen, dass schon jetzt Arbeitsebenen auch auf Vektoren wirken? Und Vektoren können bereits jetzt schon grosse Bilder als Füllung haben. Mit das Schwierigste ist also schon fertig.
Der Dialog braucht nur das Nötigste

1) Bei der Dateiauswahl unterscheide ich nach Dateiname und Pfad - in letzterem sind Variablen erlaubt. Natürlich kann der Dateiname auch Pfadbestandteile haben (wird zum Dateiname addiert)
2) Hinzugekommen ist die Nennung einer evtl. RAW Datei. Hier bekommt das ganze richtig Sinn. Man kann die entsprechende RAW Datei öffnen (im geeigneten Programm) und die Quelldatei (JPEG oder TIFF) neu erstellen, wenn irgendwas nicht passt. Das geht über den Knopf "Bearbeiten".
3) Bearbeiten in Photoline selber ist etwas problematisch da Dialog ja modal ist. "Bearbeiten" einer JPEG/TIFF könnte aber dennoch das Bild in einem neuen Fenster laden und dann den Dialog schliessen. Photoline müsste in diesem Fall die Änderung der Quelle überwachen. Eine neue Instanz zu starten fände ich nicht so gut.
4) Ich habe hier die Helligkeitseinstellung rausgenommen, da man besser von einer schon guten Quelldatei ausgeht und bei Bedarf ja dennoch eine Gradations-arbeitsebene darüber legen kann. Aus der Quelldatei einen Ausschitt wählen zu können ist aber unbedingt wichtig. Das Kippen ist wichtig - dieses aber ausgehend von der Einstellung im EXIF sodass "automatisch geraderichten" nicht schädlich ist.
5) Skalieren habe ich rausgenommen und biete dies unter den "Einpassen" als Möglichkeit an. Wichtig ist aber, dass "gut" skaliert wird, also mit nachschärfen. Sonst sehen stark verkleinerte Bilder nach nichts aus.
Eine 100% Einbindung wird aber auch angeboten, damit perfekte, pixelgenaue Druckausgaben möglich sind. Die Objektgrösse wird hier vom Zentrum ausgehend in der Breite und Höhe entsprechend der Bildgrösse (dpi!) angepasst. Dabei wird noch der Crop beachtet.
6) Der Effektknopf startet den bekannten Dialog. Vor allem Umriss und Schatten werden die Leute nutzen wollen.
7) Noch nicht vorgesehen, aber sinnvoll ist die Nennung eine Über und Unterschrift mit Abstand und Font. Hier natürlich auch Variablen erlauben.
Ich hoffe diese Zusammenfassung ist knapp genug und ausreichend klar. Der Dialog kann jetzt viel kleiner sein, für die Auswahl "Einpassen" bietet sich auch ein combobox an.
Viele Grüsse,
Julian