Remove _finalized check from picture writer too.
[libdcp.git] / src / picture_asset.cc
index 905f75f56ef0f4af9f8e21b54805584b79a3b31d..0019d5622f59a128451c3f6c0f26a541acfc6734 100644 (file)
@@ -41,13 +41,24 @@ using std::ostream;
 using std::list;
 using std::vector;
 using std::max;
+using std::pair;
+using std::make_pair;
+using std::istream;
+using std::cout;
 using boost::shared_ptr;
 using boost::dynamic_pointer_cast;
 using boost::lexical_cast;
 using namespace libdcp;
 
-PictureAsset::PictureAsset (string directory, string mxf_name, boost::signals2::signal<void (float)>* progress, int fps, int intrinsic_duration)
+PictureAsset::PictureAsset (string directory, string mxf_name, boost::signals2::signal<void (float)>* progress, int fps, int intrinsic_duration, Size size)
        : MXFAsset (directory, mxf_name, progress, fps, intrinsic_duration)
+       , _size (size)
+{
+
+}
+
+PictureAsset::PictureAsset (string directory, string mxf_name)
+       : MXFAsset (directory, mxf_name)
 {
 
 }
@@ -58,39 +69,39 @@ PictureAsset::write_to_cpl (ostream& s) const
        s << "        <MainPicture>\n"
          << "          <Id>urn:uuid:" << _uuid << "</Id>\n"
          << "          <AnnotationText>" << _file_name << "</AnnotationText>\n"
-         << "          <EditRate>" << _fps << " 1</EditRate>\n"
+         << "          <EditRate>" << _edit_rate << " 1</EditRate>\n"
          << "          <IntrinsicDuration>" << _intrinsic_duration << "</IntrinsicDuration>\n"
-         << "          <EntryPoint>0</EntryPoint>\n"
-         << "          <Duration>" << _intrinsic_duration << "</Duration>\n"
-         << "          <FrameRate>" << _fps << " 1</FrameRate>\n"
+         << "          <EntryPoint>" << _entry_point << "</EntryPoint>\n"
+         << "          <Duration>" << _duration << "</Duration>\n"
+         << "          <FrameRate>" << _edit_rate << " 1</FrameRate>\n"
          << "          <ScreenAspectRatio>" << _size.width << " " << _size.height << "</ScreenAspectRatio>\n"
          << "        </MainPicture>\n";
 }
 
 bool
-PictureAsset::equals (shared_ptr<const Asset> other, EqualityOptions opt, list<string>& notes) const
+PictureAsset::equals (shared_ptr<const Asset> other, EqualityOptions opt, boost::function<void (NoteType, string)> note) const
 {
-       if (!MXFAsset::equals (other, opt, notes)) {
+       if (!MXFAsset::equals (other, opt, note)) {
                return false;
        }
                     
        ASDCP::JP2K::MXFReader reader_A;
        if (ASDCP_FAILURE (reader_A.OpenRead (path().string().c_str()))) {
-               throw MXFFileError ("could not open MXF file for reading", path().string());
+               boost::throw_exception (MXFFileError ("could not open MXF file for reading", path().string()));
        }
        
        ASDCP::JP2K::MXFReader reader_B;
        if (ASDCP_FAILURE (reader_B.OpenRead (other->path().string().c_str()))) {
-               throw MXFFileError ("could not open MXF file for reading", path().string());
+               boost::throw_exception (MXFFileError ("could not open MXF file for reading", path().string()));
        }
        
        ASDCP::JP2K::PictureDescriptor desc_A;
        if (ASDCP_FAILURE (reader_A.FillPictureDescriptor (desc_A))) {
-               throw DCPReadError ("could not read video MXF information");
+               boost::throw_exception (DCPReadError ("could not read video MXF information"));
        }
        ASDCP::JP2K::PictureDescriptor desc_B;
        if (ASDCP_FAILURE (reader_B.FillPictureDescriptor (desc_B))) {
-               throw DCPReadError ("could not read video MXF information");
+               boost::throw_exception (DCPReadError ("could not read video MXF information"));
        }
        
        if (
@@ -114,7 +125,7 @@ PictureAsset::equals (shared_ptr<const Asset> other, EqualityOptions opt, list<s
 //             desc_A.QuantizationDefault != desc_B.QuantizationDefault
                ) {
                
-               notes.push_back ("video MXF picture descriptors differ");
+               note (ERROR, "video MXF picture descriptors differ");
                return false;
        }
 
@@ -135,11 +146,12 @@ MonoPictureAsset::MonoPictureAsset (
        boost::signals2::signal<void (float)>* progress,
        int fps,
        int intrinsic_duration,
-       Size size)
-       : PictureAsset (directory, mxf_name, progress, fps, intrinsic_duration)
+       Size size,
+       MXFMetadata const & metadata
+       )
+       : PictureAsset (directory, mxf_name, progress, fps, intrinsic_duration, size)
 {
-       _size = size;
-       construct (get_path);
+       construct (get_path, metadata);
 }
 
 MonoPictureAsset::MonoPictureAsset (
@@ -149,49 +161,59 @@ MonoPictureAsset::MonoPictureAsset (
        boost::signals2::signal<void (float)>* progress,
        int fps,
        int intrinsic_duration,
-       Size size)
-       : PictureAsset (directory, mxf_name, progress, fps, intrinsic_duration)
+       Size size,
+       MXFMetadata const & metadata
+       )
+       : PictureAsset (directory, mxf_name, progress, fps, intrinsic_duration, size)
 {
-       _size = size;
-       construct (boost::bind (&MonoPictureAsset::path_from_list, this, _1, files));
+       construct (boost::bind (&MonoPictureAsset::path_from_list, this, _1, files), metadata);
 }
 
-MonoPictureAsset::MonoPictureAsset (string directory, string mxf_name, int fps, int intrinsic_duration)
-       : PictureAsset (directory, mxf_name, 0, fps, intrinsic_duration)
+MonoPictureAsset::MonoPictureAsset (string directory, string mxf_name, int fps, Size size)
+       : PictureAsset (directory, mxf_name, 0, fps, 0, size)
+{
+
+}
+
+MonoPictureAsset::MonoPictureAsset (string directory, string mxf_name)
+       : PictureAsset (directory, mxf_name)
 {
        ASDCP::JP2K::MXFReader reader;
        if (ASDCP_FAILURE (reader.OpenRead (path().string().c_str()))) {
-               throw MXFFileError ("could not open MXF file for reading", path().string());
+               boost::throw_exception (MXFFileError ("could not open MXF file for reading", path().string()));
        }
        
        ASDCP::JP2K::PictureDescriptor desc;
        if (ASDCP_FAILURE (reader.FillPictureDescriptor (desc))) {
-               throw DCPReadError ("could not read video MXF information");
+               boost::throw_exception (DCPReadError ("could not read video MXF information"));
        }
 
        _size.width = desc.StoredWidth;
        _size.height = desc.StoredHeight;
+       _edit_rate = desc.EditRate.Numerator;
+       assert (desc.EditRate.Denominator == 1);
+       _intrinsic_duration = desc.ContainerDuration;
 }
 
 void
-MonoPictureAsset::construct (boost::function<string (int)> get_path)
+MonoPictureAsset::construct (boost::function<string (int)> get_path, MXFMetadata const & metadata)
 {
        ASDCP::JP2K::CodestreamParser j2k_parser;
        ASDCP::JP2K::FrameBuffer frame_buffer (4 * Kumu::Megabyte);
        if (ASDCP_FAILURE (j2k_parser.OpenReadFrame (get_path(0).c_str(), frame_buffer))) {
-               throw FileError ("could not open JPEG2000 file for reading", get_path (0));
+               boost::throw_exception (FileError ("could not open JPEG2000 file for reading", get_path (0)));
        }
        
        ASDCP::JP2K::PictureDescriptor picture_desc;
        j2k_parser.FillPictureDescriptor (picture_desc);
-       picture_desc.EditRate = ASDCP::Rational (_fps, 1);
+       picture_desc.EditRate = ASDCP::Rational (_edit_rate, 1);
        
        ASDCP::WriterInfo writer_info;
-       fill_writer_info (&writer_info);
+       fill_writer_info (&writer_info, _uuid, metadata);
        
        ASDCP::JP2K::MXFWriter mxf_writer;
-       if (ASDCP_FAILURE (mxf_writer.OpenWrite (path().string().c_str(), writer_info, picture_desc))) {
-               throw MXFFileError ("could not open MXF file for writing", path().string());
+       if (ASDCP_FAILURE (mxf_writer.OpenWrite (path().string().c_str(), writer_info, picture_desc, 16384, false))) {
+               boost::throw_exception (MXFFileError ("could not open MXF file for writing", path().string()));
        }
 
        for (int i = 0; i < _intrinsic_duration; ++i) {
@@ -199,12 +221,11 @@ MonoPictureAsset::construct (boost::function<string (int)> get_path)
                string const path = get_path (i);
 
                if (ASDCP_FAILURE (j2k_parser.OpenReadFrame (path.c_str(), frame_buffer))) {
-                       throw FileError ("could not open JPEG2000 file for reading", path);
+                       boost::throw_exception (FileError ("could not open JPEG2000 file for reading", path));
                }
 
-               /* XXX: passing 0 to WriteFrame ok? */
                if (ASDCP_FAILURE (mxf_writer.WriteFrame (frame_buffer, 0, 0))) {
-                       throw MiscError ("error in writing video MXF");
+                       boost::throw_exception (MXFFileError ("error in writing video MXF", this->path().string()));
                }
 
                if (_progress) {
@@ -213,7 +234,7 @@ MonoPictureAsset::construct (boost::function<string (int)> get_path)
        }
        
        if (ASDCP_FAILURE (mxf_writer.Finalize())) {
-               throw MiscError ("error in finalising video MXF");
+               boost::throw_exception (MXFFileError ("error in finalising video MXF", path().string()));
        }
 }
 
@@ -226,14 +247,14 @@ MonoPictureAsset::path_from_list (int f, vector<string> const & files) const
 shared_ptr<const MonoPictureFrame>
 MonoPictureAsset::get_frame (int n) const
 {
-       return shared_ptr<const MonoPictureFrame> (new MonoPictureFrame (path().string(), n + _entry_point));
+       return shared_ptr<const MonoPictureFrame> (new MonoPictureFrame (path().string(), n));
 }
 
 
 bool
-MonoPictureAsset::equals (shared_ptr<const Asset> other, EqualityOptions opt, list<string>& notes) const
+MonoPictureAsset::equals (shared_ptr<const Asset> other, EqualityOptions opt, boost::function<void (NoteType, string)> note) const
 {
-       if (!PictureAsset::equals (other, opt, notes)) {
+       if (!PictureAsset::equals (other, opt, note)) {
                return false;
        }
 
@@ -241,13 +262,14 @@ MonoPictureAsset::equals (shared_ptr<const Asset> other, EqualityOptions opt, li
        assert (other_picture);
 
        for (int i = 0; i < _intrinsic_duration; ++i) {
+               note (PROGRESS, "Comparing video frame " + lexical_cast<string> (i) + " of " + lexical_cast<string> (_intrinsic_duration));
                shared_ptr<const MonoPictureFrame> frame_A = get_frame (i);
                shared_ptr<const MonoPictureFrame> frame_B = other_picture->get_frame (i);
                
                if (!frame_buffer_equals (
-                           i, opt, notes,
-                           frame_A->j2k_frame()->RoData(), frame_A->j2k_frame()->Size(),
-                           frame_B->j2k_frame()->RoData(), frame_B->j2k_frame()->Size()
+                           i, opt, note,
+                           frame_A->j2k_data(), frame_A->j2k_size(),
+                           frame_B->j2k_data(), frame_B->j2k_size()
                            )) {
                        return false;
                }
@@ -257,9 +279,9 @@ MonoPictureAsset::equals (shared_ptr<const Asset> other, EqualityOptions opt, li
 }
 
 bool
-StereoPictureAsset::equals (shared_ptr<const Asset> other, EqualityOptions opt, list<string>& notes) const
+StereoPictureAsset::equals (shared_ptr<const Asset> other, EqualityOptions opt, boost::function<void (NoteType, string)> note) const
 {
-       if (!PictureAsset::equals (other, opt, notes)) {
+       if (!PictureAsset::equals (other, opt, note)) {
                return false;
        }
        
@@ -271,17 +293,17 @@ StereoPictureAsset::equals (shared_ptr<const Asset> other, EqualityOptions opt,
                shared_ptr<const StereoPictureFrame> frame_B = other_picture->get_frame (i);
                
                if (!frame_buffer_equals (
-                           i, opt, notes,
-                           frame_A->j2k_frame()->Left.RoData(), frame_A->j2k_frame()->Left.Size(),
-                           frame_B->j2k_frame()->Left.RoData(), frame_B->j2k_frame()->Left.Size()
+                           i, opt, note,
+                           frame_A->left_j2k_data(), frame_A->left_j2k_size(),
+                           frame_B->left_j2k_data(), frame_B->left_j2k_size()
                            )) {
                        return false;
                }
                
                if (!frame_buffer_equals (
-                           i, opt, notes,
-                           frame_A->j2k_frame()->Right.RoData(), frame_A->j2k_frame()->Right.Size(),
-                           frame_B->j2k_frame()->Right.RoData(), frame_B->j2k_frame()->Right.Size()
+                           i, opt, note,
+                           frame_A->right_j2k_data(), frame_A->right_j2k_size(),
+                           frame_B->right_j2k_data(), frame_B->right_j2k_size()
                            )) {
                        return false;
                }
@@ -292,10 +314,12 @@ StereoPictureAsset::equals (shared_ptr<const Asset> other, EqualityOptions opt,
 
 bool
 PictureAsset::frame_buffer_equals (
-       int frame, EqualityOptions opt, list<string>& notes, uint8_t const * data_A, unsigned int size_A, uint8_t const * data_B, unsigned int size_B
+       int frame, EqualityOptions opt, boost::function<void (NoteType, string)> note,
+       uint8_t const * data_A, unsigned int size_A, uint8_t const * data_B, unsigned int size_B
        ) const
 {
        if (size_A == size_B && memcmp (data_A, data_B, size_A) == 0) {
+               note (NOTE, "J2K identical");
                /* Easy result; the J2K data is identical */
                return true;
        }
@@ -307,7 +331,7 @@ PictureAsset::frame_buffer_equals (
        /* Compare them */
        
        if (image_A->numcomps != image_B->numcomps) {
-               notes.push_back ("image component counts for frame " + lexical_cast<string>(frame) + " differ");
+               note (ERROR, "image component counts for frame " + lexical_cast<string>(frame) + " differ");
                return false;
        }
        
@@ -318,7 +342,7 @@ PictureAsset::frame_buffer_equals (
        for (int c = 0; c < image_A->numcomps; ++c) {
                
                if (image_A->comps[c].w != image_B->comps[c].w || image_A->comps[c].h != image_B->comps[c].h) {
-                       notes.push_back ("image sizes for frame " + lexical_cast<string>(frame) + " differ");
+                       note (ERROR, "image sizes for frame " + lexical_cast<string>(frame) + " differ");
                        return false;
                }
                
@@ -344,11 +368,18 @@ PictureAsset::frame_buffer_equals (
        
        double const std_dev = sqrt (double (total_squared_deviation) / abs_diffs.size());
        
-       if (mean > opt.max_mean_pixel_error || std_dev > opt.max_std_dev_pixel_error) {
-               notes.push_back ("mean or standard deviation out of range for " + lexical_cast<string>(frame));
+       note (NOTE, "mean difference " + lexical_cast<string> (mean) + ", deviation " + lexical_cast<string> (std_dev));
+       
+       if (mean > opt.max_mean_pixel_error) {
+               note (ERROR, "mean " + lexical_cast<string>(mean) + " out of range " + lexical_cast<string>(opt.max_mean_pixel_error) + " in frame " + lexical_cast<string>(frame));
                return false;
        }
-       
+
+       if (std_dev > opt.max_std_dev_pixel_error) {
+               note (ERROR, "standard deviation " + lexical_cast<string>(std_dev) + " out of range " + lexical_cast<string>(opt.max_std_dev_pixel_error) + " in frame " + lexical_cast<string>(frame));
+               return false;
+       }
+
        opj_image_destroy (image_A);
        opj_image_destroy (image_B);
 
@@ -357,16 +388,16 @@ PictureAsset::frame_buffer_equals (
 
 
 StereoPictureAsset::StereoPictureAsset (string directory, string mxf_name, int fps, int intrinsic_duration)
-       : PictureAsset (directory, mxf_name, 0, fps, intrinsic_duration)
+       : PictureAsset (directory, mxf_name, 0, fps, intrinsic_duration, Size (0, 0))
 {
        ASDCP::JP2K::MXFSReader reader;
        if (ASDCP_FAILURE (reader.OpenRead (path().string().c_str()))) {
-               throw MXFFileError ("could not open MXF file for reading", path().string());
+               boost::throw_exception (MXFFileError ("could not open MXF file for reading", path().string()));
        }
        
        ASDCP::JP2K::PictureDescriptor desc;
        if (ASDCP_FAILURE (reader.FillPictureDescriptor (desc))) {
-               throw DCPReadError ("could not read video MXF information");
+               boost::throw_exception (DCPReadError ("could not read video MXF information"));
        }
 
        _size.width = desc.StoredWidth;
@@ -376,5 +407,130 @@ StereoPictureAsset::StereoPictureAsset (string directory, string mxf_name, int f
 shared_ptr<const StereoPictureFrame>
 StereoPictureAsset::get_frame (int n) const
 {
-       return shared_ptr<const StereoPictureFrame> (new StereoPictureFrame (path().string(), n + _entry_point));
+       return shared_ptr<const StereoPictureFrame> (new StereoPictureFrame (path().string(), n));
+}
+
+shared_ptr<MonoPictureAssetWriter>
+MonoPictureAsset::start_write (bool overwrite, MXFMetadata const & metadata)
+{
+       /* XXX: can't we use shared_ptr here? */
+       return shared_ptr<MonoPictureAssetWriter> (new MonoPictureAssetWriter (this, overwrite, metadata));
+}
+
+FrameInfo::FrameInfo (istream& s)
+{
+       s >> offset >> size >> hash;
+}
+
+void
+FrameInfo::write (ostream& s)
+{
+       s << offset << " " << size << " " << hash;
+}
+
+struct MonoPictureAssetWriter::ASDCPState
+{
+       ASDCPState()
+               : frame_buffer (4 * Kumu::Megabyte)
+       {}
+       
+       ASDCP::JP2K::CodestreamParser j2k_parser;
+       ASDCP::JP2K::FrameBuffer frame_buffer;
+       ASDCP::JP2K::MXFWriter mxf_writer;
+       ASDCP::WriterInfo writer_info;
+       ASDCP::JP2K::PictureDescriptor picture_descriptor;
+};
+
+
+/** @param a Asset to write to.  `a' must not be deleted while
+ *  this writer class still exists, or bad things will happen.
+ */
+MonoPictureAssetWriter::MonoPictureAssetWriter (MonoPictureAsset* a, bool overwrite, MXFMetadata const & m)
+       : _state (new MonoPictureAssetWriter::ASDCPState)
+       , _asset (a)
+       , _frames_written (0)
+       , _started (false)
+       , _finalized (false)
+       , _overwrite (overwrite)
+       , _metadata (m)
+{
+
+}
+
+
+void
+MonoPictureAssetWriter::start (uint8_t* data, int size)
+{
+       if (ASDCP_FAILURE (_state->j2k_parser.OpenReadFrame (data, size, _state->frame_buffer))) {
+               boost::throw_exception (MiscError ("could not parse J2K frame"));
+       }
+
+       _state->j2k_parser.FillPictureDescriptor (_state->picture_descriptor);
+       _state->picture_descriptor.EditRate = ASDCP::Rational (_asset->edit_rate(), 1);
+       
+       MXFAsset::fill_writer_info (&_state->writer_info, _asset->uuid(), _metadata);
+       
+       if (ASDCP_FAILURE (_state->mxf_writer.OpenWrite (
+                                  _asset->path().string().c_str(),
+                                  _state->writer_info,
+                                  _state->picture_descriptor,
+                                  16384,
+                                  _overwrite)
+                   )) {
+               
+               boost::throw_exception (MXFFileError ("could not open MXF file for writing", _asset->path().string()));
+       }
+
+       _started = true;
+}
+
+FrameInfo
+MonoPictureAssetWriter::write (uint8_t* data, int size)
+{
+       assert (!_finalized);
+
+       if (!_started) {
+               start (data, size);
+       }
+
+       if (ASDCP_FAILURE (_state->j2k_parser.OpenReadFrame (data, size, _state->frame_buffer))) {
+               boost::throw_exception (MiscError ("could not parse J2K frame"));
+       }
+
+       uint64_t const before_offset = _state->mxf_writer.Tell ();
+
+       string hash;
+       if (ASDCP_FAILURE (_state->mxf_writer.WriteFrame (_state->frame_buffer, 0, 0, &hash))) {
+               boost::throw_exception (MXFFileError ("error in writing video MXF", _asset->path().string()));
+       }
+
+       ++_frames_written;
+       return FrameInfo (before_offset, _state->mxf_writer.Tell() - before_offset, hash);
+}
+
+void
+MonoPictureAssetWriter::fake_write (int size)
+{
+       assert (_started);
+       assert (!_finalized);
+
+       if (ASDCP_FAILURE (_state->mxf_writer.FakeWriteFrame (size))) {
+               boost::throw_exception (MXFFileError ("error in writing video MXF", _asset->path().string()));
+       }
+
+       ++_frames_written;
+}
+
+void
+MonoPictureAssetWriter::finalize ()
+{
+       assert (!_finalized);
+       
+       if (ASDCP_FAILURE (_state->mxf_writer.Finalize())) {
+               boost::throw_exception (MXFFileError ("error in finalizing video MXF", _asset->path().string()));
+       }
+
+       _finalized = true;
+       _asset->set_intrinsic_duration (_frames_written);
+       _asset->set_duration (_frames_written);
 }