La respuesta rápida es: cuando quieras puedes usar una de las dos; simplemente dificultoso agrega un matiz diferente. Difícil es una adjetivo que cualifica y dificultoso podriamos decir que es algo dificil de manera contínua o por naturaleza.
Por ejemplo, desatar un nudo es algo difícil pero a manera que lo vas desenredando se va haciendo cada vez más fácil. En cambio, hacer la tarea de matemáticas es dificultoso si el proceso completo es difícil.
El uso principal que se da del sufijo -oso es cuando se le agrega a un sustantivo. Y significa a manera de, relativo a, abundancia de, etc. Así:
amor se convierte en amoroso,
gracia en gracioso,
aceite en aceitoso,
arena en arenoso,
calor en caluroso,
pereza en perezoso,
etc.
Sin embargo, la palabra difícil es, por si misma, un adjetivo. Cuando al los adjetivos se les agrega el sufijo -oso, se les disminuye o aumenta la magnitud del adjetivo.
Difícil se convertiría en dificiloso (aunque prefiero dificilón),
verde en verdoso,
voluntario en voluntarioso,
etc,
Desde mi punto de vista, dificultoso proviene, mas bien, del verbo dificultar. Cuando el sufijo se le añade a un verbo, se le da un matiz activo y progresivo. Así,
afanar se transforma en afanoso
enredar en enredoso,
resbalar en resbaloso,
etc.