Purtroppo all'interno della libreria di iPhoto ci sono dei file di registro che vengono consultati dall'applicazione, per cui il software non prevede l'apertura della libreria se già interessata da un altro programma.
Il messaggio d'errore parla chiaro, dubito che ci sia il modo per raggirare il problema.