Пишете в кадре код, что-то вроде:

Код AS1/AS2:
btn.onRelease = function() {
getURL("javascript:window.open('images/img.jpg','name','width=1024,height=768,toolbar=0');void(0);")
}
Естественно, путь к фото можно менять прямо посредством AS:

Код AS1/AS2:
getURL("javascript:window.open('"+imagescatalog+"/"+img+".jpg','name','width=1024,height=768,toolbar=0');void(0);")
Добавлено через 13 минут
Это с открытием pop-up окна браузера.
Ну а если прямо внутри флешки, то сам понимаешь.. фантазия реализации ничем не ограничена. Хочешь - мувик стартуй с фоткой, и меняй ему свойство scale, хочешь - храни на сервере увеличнную копию фотки и грузи ее в новый мувик...