Verify a whole bunch of DCPs made by unit tests.
[dcpomatic.git] / test / test.cc
1 /*
2     Copyright (C) 2012-2020 Carl Hetherington <cth@carlh.net>
3
4     This file is part of DCP-o-matic.
5
6     DCP-o-matic is free software; you can redistribute it and/or modify
7     it under the terms of the GNU General Public License as published by
8     the Free Software Foundation; either version 2 of the License, or
9     (at your option) any later version.
10
11     DCP-o-matic is distributed in the hope that it will be useful,
12     but WITHOUT ANY WARRANTY; without even the implied warranty of
13     MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14     GNU General Public License for more details.
15
16     You should have received a copy of the GNU General Public License
17     along with DCP-o-matic.  If not, see <http://www.gnu.org/licenses/>.
18
19 */
20
21 /** @file  test/test.cc
22  *  @brief Overall test stuff and useful methods for tests.
23  */
24
25 #include "lib/compose.hpp"
26 #include "lib/config.h"
27 #include "lib/cross.h"
28 #include "lib/dcp_content_type.h"
29 #include "lib/dcpomatic_log.h"
30 #include "lib/encode_server_finder.h"
31 #include "lib/ffmpeg_image_proxy.h"
32 #include "lib/file_log.h"
33 #include "lib/film.h"
34 #include "lib/image.h"
35 #include "lib/job.h"
36 #include "lib/job_manager.h"
37 #include "lib/log_entry.h"
38 #include "lib/ratio.h"
39 #include "lib/signal_manager.h"
40 #include "lib/util.h"
41 #include "test.h"
42 #include <dcp/cpl.h>
43 #include <dcp/dcp.h>
44 #include <dcp/mono_picture_asset.h>
45 #include <dcp/mono_picture_frame.h>
46 #include <dcp/openjpeg_image.h>
47 #include <dcp/reel.h>
48 #include <dcp/reel_picture_asset.h>
49 #include <asdcp/AS_DCP.h>
50 #include <png.h>
51 #include <sndfile.h>
52 #include <libxml++/libxml++.h>
53 extern "C" {
54 #include <libavformat/avformat.h>
55 }
56 #define BOOST_TEST_DYN_LINK
57 #define BOOST_TEST_MODULE dcpomatic_test
58 #include <boost/test/unit_test.hpp>
59 #include <boost/algorithm/string.hpp>
60 #include <iostream>
61 #include <list>
62 #include <vector>
63
64 using std::abs;
65 using std::cerr;
66 using std::cout;
67 using std::list;
68 using std::make_shared;
69 using std::min;
70 using std::shared_ptr;
71 using std::string;
72 using std::vector;
73 using boost::scoped_array;
74 using std::dynamic_pointer_cast;
75 #if BOOST_VERSION >= 106100
76 using namespace boost::placeholders;
77 #endif
78
79
80 boost::filesystem::path
81 TestPaths::TestPaths::private_data ()
82 {
83         char* env = getenv("DCPOMATIC_TEST_PRIVATE");
84         if (env) {
85                 return boost::filesystem::path(env);
86         }
87
88         return boost::filesystem::canonical(boost::filesystem::path ("..") / boost::filesystem::path ("dcpomatic-test-private"));
89 }
90
91
92 boost::filesystem::path TestPaths::xsd ()
93 {
94         return boost::filesystem::canonical(boost::filesystem::path("..") / boost::filesystem::path("libdcp") / boost::filesystem::path("xsd"));
95 }
96
97
98 void
99 setup_test_config ()
100 {
101         Config::instance()->set_master_encoding_threads (boost::thread::hardware_concurrency());
102         Config::instance()->set_server_encoding_threads (1);
103         Config::instance()->set_server_port_base (61921);
104         Config::instance()->set_default_isdcf_metadata (ISDCFMetadata ());
105         Config::instance()->set_default_container (Ratio::from_id ("185"));
106         Config::instance()->set_default_dcp_content_type (static_cast<DCPContentType*> (0));
107         Config::instance()->set_default_audio_delay (0);
108         Config::instance()->set_default_j2k_bandwidth (100000000);
109         Config::instance()->set_default_interop (false);
110         Config::instance()->set_default_still_length (10);
111         Config::instance()->set_log_types (
112                 LogEntry::TYPE_GENERAL | LogEntry::TYPE_WARNING |
113                 LogEntry::TYPE_ERROR | LogEntry::TYPE_DEBUG_THREE_D |
114                 LogEntry::TYPE_DEBUG_ENCODE | LogEntry::TYPE_DEBUG_PLAYER |
115                 LogEntry::TYPE_DISK
116                 );
117         Config::instance()->set_automatic_audio_analysis (false);
118 }
119
120 class TestSignalManager : public SignalManager
121 {
122 public:
123         /* No wakes in tests: we call ui_idle ourselves */
124         void wake_ui ()
125         {
126
127         }
128 };
129
130 struct TestConfig
131 {
132         TestConfig ()
133         {
134                 State::override_path = "build/test/state";
135                 boost::filesystem::remove_all (*State::override_path);
136
137                 dcpomatic_setup ();
138                 setup_test_config ();
139
140                 EncodeServerFinder::instance()->stop ();
141
142                 signal_manager = new TestSignalManager ();
143
144                 dcpomatic_log.reset (new FileLog("build/test/log"));
145         }
146
147         ~TestConfig ()
148         {
149                 JobManager::drop ();
150         }
151 };
152
153 BOOST_GLOBAL_FIXTURE (TestConfig);
154
155 boost::filesystem::path
156 test_film_dir (string name)
157 {
158         boost::filesystem::path p;
159         p /= "build";
160         p /= "test";
161         p /= name;
162         return p;
163 }
164
165 shared_ptr<Film>
166 new_test_film (string name)
167 {
168         auto p = test_film_dir (name);
169         if (boost::filesystem::exists (p)) {
170                 boost::filesystem::remove_all (p);
171         }
172
173         auto film = make_shared<Film>(p);
174         film->write_metadata ();
175         return film;
176 }
177
178 shared_ptr<Film>
179 new_test_film2 (string name, vector<shared_ptr<Content>> content, Cleanup* cleanup)
180 {
181         auto p = test_film_dir (name);
182         if (boost::filesystem::exists (p)) {
183                 boost::filesystem::remove_all (p);
184         }
185         if (cleanup) {
186                 cleanup->add (p);
187         }
188
189         auto film = make_shared<Film>(p);
190         film->set_dcp_content_type (DCPContentType::from_isdcf_name ("TST"));
191         film->set_container (Ratio::from_id ("185"));
192         film->write_metadata ();
193
194         for (auto i: content) {
195                 film->examine_and_add_content (i);
196                 BOOST_REQUIRE (!wait_for_jobs());
197         }
198
199         return film;
200 }
201
202 void
203 check_wav_file (boost::filesystem::path ref, boost::filesystem::path check)
204 {
205         SF_INFO ref_info;
206         ref_info.format = 0;
207         auto ref_file = sf_open (ref.string().c_str(), SFM_READ, &ref_info);
208         BOOST_CHECK (ref_file);
209
210         SF_INFO check_info;
211         check_info.format = 0;
212         auto check_file = sf_open (check.string().c_str(), SFM_READ, &check_info);
213         BOOST_CHECK (check_file);
214
215         BOOST_CHECK_EQUAL (ref_info.frames, check_info.frames);
216         BOOST_CHECK_EQUAL (ref_info.samplerate, check_info.samplerate);
217         BOOST_CHECK_EQUAL (ref_info.channels, check_info.channels);
218         BOOST_CHECK_EQUAL (ref_info.format, check_info.format);
219
220         /* buffer_size is in frames */
221         sf_count_t const buffer_size = 65536 * ref_info.channels;
222         scoped_array<int32_t> ref_buffer (new int32_t[buffer_size]);
223         scoped_array<int32_t> check_buffer (new int32_t[buffer_size]);
224
225         sf_count_t N = ref_info.frames;
226         while (N) {
227                 sf_count_t this_time = min (buffer_size, N);
228                 sf_count_t r = sf_readf_int (ref_file, ref_buffer.get(), this_time);
229                 BOOST_CHECK_EQUAL (r, this_time);
230                 r = sf_readf_int (check_file, check_buffer.get(), this_time);
231                 BOOST_CHECK_EQUAL (r, this_time);
232
233                 for (sf_count_t i = 0; i < this_time; ++i) {
234                         BOOST_REQUIRE_MESSAGE (
235                                 abs (ref_buffer[i] - check_buffer[i]) <= 65536,
236                                 ref << " differs from " << check << " at " << (ref_info.frames - N + i) << " of " << ref_info.frames
237                                 << "(" << ref_buffer[i] << " vs " << check_buffer[i] << ")"
238                                 );
239                 }
240
241                 N -= this_time;
242         }
243 }
244
245 void
246 check_mxf_audio_file (boost::filesystem::path ref, boost::filesystem::path check)
247 {
248         ASDCP::PCM::MXFReader ref_reader;
249         BOOST_REQUIRE (!ASDCP_FAILURE (ref_reader.OpenRead (ref.string().c_str())));
250
251         ASDCP::PCM::AudioDescriptor ref_desc;
252         BOOST_REQUIRE (!ASDCP_FAILURE (ref_reader.FillAudioDescriptor (ref_desc)));
253
254         ASDCP::PCM::MXFReader check_reader;
255         BOOST_REQUIRE (!ASDCP_FAILURE (check_reader.OpenRead (check.string().c_str())));
256
257         ASDCP::PCM::AudioDescriptor check_desc;
258         BOOST_REQUIRE (!ASDCP_FAILURE (check_reader.FillAudioDescriptor (check_desc)));
259
260         BOOST_REQUIRE_EQUAL (ref_desc.ContainerDuration, check_desc.ContainerDuration);
261
262         ASDCP::PCM::FrameBuffer ref_buffer (Kumu::Megabyte);
263         ASDCP::PCM::FrameBuffer check_buffer (Kumu::Megabyte);
264         for (size_t i = 0; i < ref_desc.ContainerDuration; ++i) {
265                 ref_reader.ReadFrame (i, ref_buffer, 0);
266                 check_reader.ReadFrame (i, check_buffer, 0);
267                 BOOST_REQUIRE (memcmp(ref_buffer.RoData(), check_buffer.RoData(), ref_buffer.Size()) == 0);
268         }
269 }
270
271
272 /** @return true if the files are the same, otherwise false */
273 bool
274 mxf_atmos_files_same (boost::filesystem::path ref, boost::filesystem::path check, bool verbose)
275 {
276         ASDCP::ATMOS::MXFReader ref_reader;
277         BOOST_REQUIRE (!ASDCP_FAILURE(ref_reader.OpenRead(ref.string().c_str())));
278
279         ASDCP::ATMOS::AtmosDescriptor ref_desc;
280         BOOST_REQUIRE (!ASDCP_FAILURE(ref_reader.FillAtmosDescriptor(ref_desc)));
281
282         ASDCP::ATMOS::MXFReader check_reader;
283         BOOST_REQUIRE (!ASDCP_FAILURE(check_reader.OpenRead(check.string().c_str())));
284
285         ASDCP::ATMOS::AtmosDescriptor check_desc;
286         BOOST_REQUIRE (!ASDCP_FAILURE(check_reader.FillAtmosDescriptor(check_desc)));
287
288         if (ref_desc.EditRate.Numerator != check_desc.EditRate.Numerator) {
289                 if (verbose) {
290                         std::cout << "EditRate.Numerator differs.\n";
291                 }
292                 return false;
293         }
294         if (ref_desc.EditRate.Denominator != check_desc.EditRate.Denominator) {
295                 if (verbose) {
296                         std::cout << "EditRate.Denominator differs.\n";
297                 }
298                 return false;
299         }
300         if (ref_desc.ContainerDuration != check_desc.ContainerDuration) {
301                 if (verbose) {
302                         std::cout << "EditRate.ContainerDuration differs.\n";
303                 }
304                 return false;
305         }
306         if (ref_desc.FirstFrame != check_desc.FirstFrame) {
307                 if (verbose) {
308                         std::cout << "EditRate.FirstFrame differs.\n";
309                 }
310                 return false;
311         }
312         if (ref_desc.MaxChannelCount != check_desc.MaxChannelCount) {
313                 if (verbose) {
314                         std::cout << "EditRate.MaxChannelCount differs.\n";
315                 }
316                 return false;
317         }
318         if (ref_desc.MaxObjectCount != check_desc.MaxObjectCount) {
319                 if (verbose) {
320                         std::cout << "EditRate.MaxObjectCount differs.\n";
321                 }
322                 return false;
323         }
324         if (ref_desc.AtmosVersion != check_desc.AtmosVersion) {
325                 if (verbose) {
326                         std::cout << "EditRate.AtmosVersion differs.\n";
327                 }
328                 return false;
329         }
330
331         ASDCP::DCData::FrameBuffer ref_buffer (Kumu::Megabyte);
332         ASDCP::DCData::FrameBuffer check_buffer (Kumu::Megabyte);
333         for (size_t i = 0; i < ref_desc.ContainerDuration; ++i) {
334                 ref_reader.ReadFrame (i, ref_buffer, 0);
335                 check_reader.ReadFrame (i, check_buffer, 0);
336                 if (memcmp(ref_buffer.RoData(), check_buffer.RoData(), ref_buffer.Size())) {
337                         if (verbose) {
338                                 std::cout << "data differs.\n";
339                         }
340                         return false;
341                 }
342         }
343
344         return true;
345 }
346
347
348 static
349 double
350 rms_error (boost::filesystem::path ref, boost::filesystem::path check)
351 {
352         FFmpegImageProxy ref_proxy (ref, VideoRange::FULL);
353         auto ref_image = ref_proxy.image().image;
354         FFmpegImageProxy check_proxy (check, VideoRange::FULL);
355         auto check_image = check_proxy.image().image;
356
357         BOOST_REQUIRE_EQUAL (ref_image->pixel_format(), check_image->pixel_format());
358         AVPixelFormat const format = ref_image->pixel_format();
359
360         BOOST_REQUIRE (ref_image->size() == check_image->size());
361         int const width = ref_image->size().width;
362         int const height = ref_image->size().height;
363
364         double sum_square = 0;
365         switch (format) {
366                 case AV_PIX_FMT_RGBA:
367                 {
368                         for (int y = 0; y < height; ++y) {
369                                 uint8_t* p = ref_image->data()[0] + y * ref_image->stride()[0];
370                                 uint8_t* q = check_image->data()[0] + y * check_image->stride()[0];
371                                 for (int x = 0; x < width; ++x) {
372                                         for (int c = 0; c < 4; ++c) {
373                                                 sum_square += pow((*p++ - *q++), 2);
374                                         }
375                                 }
376                         }
377                         break;
378                 }
379                 case AV_PIX_FMT_RGB24:
380                 {
381                         for (int y = 0; y < height; ++y) {
382                                 uint8_t* p = ref_image->data()[0] + y * ref_image->stride()[0];
383                                 uint8_t* q = check_image->data()[0] + y * check_image->stride()[0];
384                                 for (int x = 0; x < width; ++x) {
385                                         for (int c = 0; c < 3; ++c) {
386                                                 sum_square += pow((*p++ - *q++), 2);
387                                         }
388                                 }
389                         }
390                         break;
391                 }
392                 case AV_PIX_FMT_RGB48BE:
393                 {
394                         for (int y = 0; y < height; ++y) {
395                                 uint16_t* p = reinterpret_cast<uint16_t*>(ref_image->data()[0] + y * ref_image->stride()[0]);
396                                 uint16_t* q = reinterpret_cast<uint16_t*>(check_image->data()[0] + y * check_image->stride()[0]);
397                                 for (int x = 0; x < width; ++x) {
398                                         for (int c = 0; c < 3; ++c) {
399                                                 sum_square += pow((*p++ - *q++), 2);
400                                         }
401                                 }
402                         }
403                         break;
404                 }
405                 default:
406                         BOOST_REQUIRE_MESSAGE (false, "unrecognised pixel format " << format);
407         }
408
409         return sqrt(sum_square / (height * width));
410 }
411
412
413 BOOST_AUTO_TEST_CASE (rms_error_test)
414 {
415         BOOST_CHECK_CLOSE (rms_error("test/data/check_image0.png", "test/data/check_image0.png"), 0, 0.001);
416         BOOST_CHECK_CLOSE (rms_error("test/data/check_image0.png", "test/data/check_image1.png"), 2.2778, 0.001);
417         BOOST_CHECK_CLOSE (rms_error("test/data/check_image0.png", "test/data/check_image2.png"), 59.8896, 0.001);
418         BOOST_CHECK_CLOSE (rms_error("test/data/check_image0.png", "test/data/check_image3.png"), 0.89164, 0.001);
419 }
420
421
422 void
423 check_image (boost::filesystem::path ref, boost::filesystem::path check, double threshold)
424 {
425         double const e = rms_error (ref, check);
426         BOOST_CHECK_MESSAGE (e < threshold, ref << " differs from " << check << " " << e);
427 }
428
429
430 void
431 check_file (boost::filesystem::path ref, boost::filesystem::path check)
432 {
433         auto N = boost::filesystem::file_size (ref);
434         BOOST_CHECK_EQUAL (N, boost::filesystem::file_size (check));
435         auto ref_file = fopen_boost (ref, "rb");
436         BOOST_CHECK (ref_file);
437         auto check_file = fopen_boost (check, "rb");
438         BOOST_CHECK (check_file);
439
440         int const buffer_size = 65536;
441         uint8_t* ref_buffer = new uint8_t[buffer_size];
442         uint8_t* check_buffer = new uint8_t[buffer_size];
443
444         string error = "File " + check.string() + " differs from reference " + ref.string();
445
446         while (N) {
447                 uintmax_t this_time = min (uintmax_t (buffer_size), N);
448                 size_t r = fread (ref_buffer, 1, this_time, ref_file);
449                 BOOST_CHECK_EQUAL (r, this_time);
450                 r = fread (check_buffer, 1, this_time, check_file);
451                 BOOST_CHECK_EQUAL (r, this_time);
452
453                 BOOST_CHECK_MESSAGE (memcmp (ref_buffer, check_buffer, this_time) == 0, error);
454                 if (memcmp (ref_buffer, check_buffer, this_time)) {
455                         break;
456                 }
457
458                 N -= this_time;
459         }
460
461         delete[] ref_buffer;
462         delete[] check_buffer;
463
464         fclose (ref_file);
465         fclose (check_file);
466 }
467
468 static void
469 note (dcp::NoteType t, string n)
470 {
471         if (t == dcp::NoteType::ERROR) {
472                 cerr << n << "\n";
473         }
474 }
475
476
477 void
478 check_dcp (boost::filesystem::path ref, shared_ptr<const Film> film)
479 {
480         check_dcp (ref, film->dir(film->dcp_name()));
481 }
482
483
484 void
485 check_dcp (boost::filesystem::path ref, boost::filesystem::path check)
486 {
487         dcp::DCP ref_dcp (ref);
488         ref_dcp.read ();
489         dcp::DCP check_dcp (check);
490         check_dcp.read ();
491
492         dcp::EqualityOptions options;
493         options.max_mean_pixel_error = 5;
494         options.max_std_dev_pixel_error = 5;
495         options.max_audio_sample_error = 255;
496         options.cpl_annotation_texts_can_differ = true;
497         options.reel_annotation_texts_can_differ = true;
498         options.reel_hashes_can_differ = true;
499         options.issue_dates_can_differ = true;
500
501         BOOST_CHECK (ref_dcp.equals (check_dcp, options, boost::bind (note, _1, _2)));
502 }
503
504 void
505 check_xml (xmlpp::Element* ref, xmlpp::Element* test, list<string> ignore)
506 {
507         BOOST_CHECK_EQUAL (ref->get_name (), test->get_name ());
508         BOOST_CHECK_EQUAL (ref->get_namespace_prefix (), test->get_namespace_prefix ());
509
510         if (find (ignore.begin(), ignore.end(), ref->get_name()) != ignore.end ()) {
511                 return;
512         }
513
514         auto ref_children = ref->get_children ();
515         auto test_children = test->get_children ();
516         BOOST_REQUIRE_MESSAGE (
517                 ref_children.size() == test_children.size(),
518                 ref->get_name() << " has " << ref_children.size() << " or " << test_children.size() << " children"
519                 );
520
521         auto k = ref_children.begin ();
522         auto l = test_children.begin ();
523         while (k != ref_children.end ()) {
524
525                 /* XXX: should be doing xmlpp::EntityReference, xmlpp::XIncludeEnd, xmlpp::XIncludeStart */
526
527                 auto ref_el = dynamic_cast<xmlpp::Element*>(*k);
528                 auto test_el = dynamic_cast<xmlpp::Element*>(*l);
529                 BOOST_CHECK ((ref_el && test_el) || (!ref_el && !test_el));
530                 if (ref_el && test_el) {
531                         check_xml (ref_el, test_el, ignore);
532                 }
533
534                 auto ref_cn = dynamic_cast<xmlpp::ContentNode*>(*k);
535                 auto test_cn = dynamic_cast<xmlpp::ContentNode*>(*l);
536                 BOOST_CHECK ((ref_cn && test_cn) || (!ref_cn && !test_cn));
537                 if (ref_cn && test_cn) {
538                         BOOST_CHECK_EQUAL (ref_cn->get_content(), test_cn->get_content ());
539                 }
540
541                 ++k;
542                 ++l;
543         }
544
545         auto ref_attributes = ref->get_attributes ();
546         auto test_attributes = test->get_attributes ();
547         BOOST_CHECK_EQUAL (ref_attributes.size(), test_attributes.size ());
548
549         auto m = ref_attributes.begin();
550         auto n = test_attributes.begin();
551         while (m != ref_attributes.end ()) {
552                 BOOST_CHECK_EQUAL ((*m)->get_name(), (*n)->get_name());
553                 BOOST_CHECK_EQUAL ((*m)->get_value(), (*n)->get_value());
554
555                 ++m;
556                 ++n;
557         }
558 }
559
560 void
561 check_xml (boost::filesystem::path ref, boost::filesystem::path test, list<string> ignore)
562 {
563         auto ref_parser = new xmlpp::DomParser(ref.string());
564         auto ref_root = ref_parser->get_document()->get_root_node();
565         auto test_parser = new xmlpp::DomParser(test.string());
566         auto test_root = test_parser->get_document()->get_root_node();
567
568         check_xml (ref_root, test_root, ignore);
569 }
570
571 bool
572 wait_for_jobs ()
573 {
574         auto jm = JobManager::instance ();
575         while (jm->work_to_do()) {
576                 while (signal_manager->ui_idle()) {}
577                 dcpomatic_sleep_seconds (1);
578         }
579
580         if (jm->errors ()) {
581                 int N = 0;
582                 for (auto i: jm->_jobs) {
583                         if (i->finished_in_error()) {
584                                 ++N;
585                         }
586                 }
587                 cerr << N << " errors.\n";
588
589                 for (auto i: jm->_jobs) {
590                         if (i->finished_in_error()) {
591                                 cerr << i->name() << ":\n"
592                                      << "\tsummary: " << i->error_summary() << "\n"
593                                      << "\tdetails: " << i->error_details() << "\n";
594                         }
595                 }
596         }
597
598         while (signal_manager->ui_idle ()) {}
599
600         if (jm->errors ()) {
601                 JobManager::drop ();
602                 return true;
603         }
604
605         return false;
606 }
607
608
609 class Memory
610 {
611 public:
612         Memory () {}
613
614         ~Memory ()
615         {
616                 free (data);
617         }
618
619         Memory (Memory const&) = delete;
620         Memory& operator= (Memory const&) = delete;
621
622         uint8_t* data = nullptr;
623         size_t size = 0;
624 };
625
626
627 static void
628 png_write_data (png_structp png_ptr, png_bytep data, png_size_t length)
629 {
630         auto mem = reinterpret_cast<Memory*>(png_get_io_ptr(png_ptr));
631         size_t size = mem->size + length;
632
633         if (mem->data) {
634                 mem->data = reinterpret_cast<uint8_t*>(realloc(mem->data, size));
635         } else {
636                 mem->data = reinterpret_cast<uint8_t*>(malloc(size));
637         }
638
639         BOOST_REQUIRE (mem->data);
640
641         memcpy (mem->data + mem->size, data, length);
642         mem->size += length;
643 }
644
645
646 static void
647 png_flush (png_structp)
648 {
649
650 }
651
652
653 static void
654 png_error_fn (png_structp png_ptr, char const * message)
655 {
656         reinterpret_cast<Image*>(png_get_error_ptr(png_ptr))->png_error (message);
657 }
658
659
660 void
661 write_image (shared_ptr<const Image> image, boost::filesystem::path file)
662 {
663         int png_color_type = 0;
664         int bits_per_pixel = 0;
665         switch (image->pixel_format()) {
666         case AV_PIX_FMT_RGB24:
667                 png_color_type = PNG_COLOR_TYPE_RGB;
668                 bits_per_pixel = 8;
669                 break;
670         case AV_PIX_FMT_XYZ12LE:
671                 png_color_type = PNG_COLOR_TYPE_RGB;
672                 bits_per_pixel = 16;
673                 break;
674         default:
675                 BOOST_REQUIRE_MESSAGE (false, "unexpected pixel format " << image->pixel_format());
676         }
677
678         /* error handling? */
679         png_structp png_ptr = png_create_write_struct(PNG_LIBPNG_VER_STRING, reinterpret_cast<void*>(const_cast<Image*>(image.get())), png_error_fn, 0);
680         BOOST_REQUIRE (png_ptr);
681
682         Memory state;
683
684         png_set_write_fn (png_ptr, &state, png_write_data, png_flush);
685
686         png_infop info_ptr = png_create_info_struct(png_ptr);
687         BOOST_REQUIRE (info_ptr);
688
689         png_set_IHDR (png_ptr, info_ptr, image->size().width, image->size().height, bits_per_pixel, png_color_type, PNG_INTERLACE_NONE, PNG_COMPRESSION_TYPE_DEFAULT, PNG_FILTER_TYPE_DEFAULT);
690
691         png_byte ** row_pointers = reinterpret_cast<png_byte **>(png_malloc(png_ptr, image->size().height * sizeof(png_byte *)));
692         for (int i = 0; i < image->size().height; ++i) {
693                 row_pointers[i] = (png_byte *) (image->data()[0] + i * image->stride()[0]);
694         }
695
696         png_write_info (png_ptr, info_ptr);
697         png_write_image (png_ptr, row_pointers);
698         png_write_end (png_ptr, info_ptr);
699
700         png_destroy_write_struct (&png_ptr, &info_ptr);
701         png_free (png_ptr, row_pointers);
702
703         dcp::ArrayData(state.data, state.size).write(file);
704 }
705
706
707 void
708 check_ffmpeg (boost::filesystem::path ref, boost::filesystem::path check, int audio_tolerance)
709 {
710         int const r = system (String::compose("ffcmp -t %1 %2 %3", audio_tolerance, ref.string(), check.string()).c_str());
711         BOOST_REQUIRE_EQUAL (WEXITSTATUS(r), 0);
712 }
713
714 void
715 check_one_frame (boost::filesystem::path dcp_dir, int64_t index, boost::filesystem::path ref)
716 {
717         dcp::DCP dcp (dcp_dir);
718         dcp.read ();
719         auto asset = dynamic_pointer_cast<dcp::MonoPictureAsset> (dcp.cpls().front()->reels().front()->main_picture()->asset());
720         BOOST_REQUIRE (asset);
721         auto frame = asset->start_read()->get_frame(index);
722         auto ref_frame (new dcp::MonoPictureFrame (ref));
723
724         auto image = frame->xyz_image ();
725         auto ref_image = ref_frame->xyz_image ();
726
727         BOOST_REQUIRE (image->size() == ref_image->size());
728
729         int off = 0;
730         for (int y = 0; y < ref_image->size().height; ++y) {
731                 for (int x = 0; x < ref_image->size().width; ++x) {
732                         BOOST_REQUIRE_EQUAL (ref_image->data(0)[off], image->data(0)[off]);
733                         BOOST_REQUIRE_EQUAL (ref_image->data(1)[off], image->data(1)[off]);
734                         BOOST_REQUIRE_EQUAL (ref_image->data(2)[off], image->data(2)[off]);
735                         ++off;
736                 }
737         }
738 }
739
740 boost::filesystem::path
741 dcp_file (shared_ptr<const Film> film, string prefix)
742 {
743         auto i = boost::filesystem::directory_iterator (film->dir(film->dcp_name()));
744         while (i != boost::filesystem::directory_iterator() && !boost::algorithm::starts_with (i->path().leaf().string(), prefix)) {
745                 ++i;
746         }
747
748         BOOST_REQUIRE (i != boost::filesystem::directory_iterator());
749         return i->path();
750 }
751
752 boost::filesystem::path
753 subtitle_file (shared_ptr<Film> film)
754 {
755         for (auto i: boost::filesystem::directory_iterator(film->directory().get() / film->dcp_name (false))) {
756                 if (boost::filesystem::is_directory(i.path())) {
757                         for (auto j: boost::filesystem::directory_iterator(i.path())) {
758                                 if (boost::algorithm::starts_with(j.path().leaf().string(), "sub_")) {
759                                         return j.path();
760                                 }
761                         }
762                 }
763         }
764
765         BOOST_REQUIRE (false);
766         /* Remove warning */
767         return boost::filesystem::path("/");
768 }
769
770 void
771 make_random_file (boost::filesystem::path path, size_t size)
772 {
773         auto t = fopen_boost(path, "wb");
774         BOOST_REQUIRE (t);
775         for (size_t i = 0; i < size; ++i) {
776                 uint8_t r = rand() & 0xff;
777                 fwrite (&r, 1, 1, t);
778         }
779         fclose (t);
780 }
781
782
783 LogSwitcher::LogSwitcher (shared_ptr<Log> log)
784         : _old (dcpomatic_log)
785 {
786         dcpomatic_log = log;
787 }
788
789
790 LogSwitcher::~LogSwitcher ()
791 {
792         dcpomatic_log = _old;
793 }
794
795 std::ostream&
796 dcp::operator<< (std::ostream& s, dcp::Size i)
797 {
798         s << i.width << "x" << i.height;
799         return s;
800 }
801
802 std::ostream&
803 dcp::operator<< (std::ostream& s, dcp::Standard t)
804 {
805         switch (t) {
806         case Standard::INTEROP:
807                 s << "interop";
808                 break;
809         case Standard::SMPTE:
810                 s << "smpte";
811                 break;
812         }
813         return s;
814 }
815
816 std::ostream&
817 operator<< (std::ostream&s, VideoFrameType f)
818 {
819         s << video_frame_type_to_string(f);
820         return s;
821 }
822
823
824 void
825 Cleanup::add (boost::filesystem::path path)
826 {
827         _paths.push_back (path);
828 }
829
830
831 void
832 Cleanup::run ()
833 {
834         boost::system::error_code ec;
835         for (auto i: _paths) {
836                 boost::filesystem::remove_all (i, ec);
837         }
838 }
839
840
841 void stage (string, boost::optional<boost::filesystem::path>) {}
842 void progress (float) {}
843
844
845 void
846 make_and_verify_dcp (shared_ptr<Film> film, vector<dcp::VerificationNote::Code> ignore)
847 {
848         film->write_metadata ();
849         film->make_dcp ();
850         BOOST_REQUIRE (!wait_for_jobs());
851         auto notes = dcp::verify ({film->dir(film->dcp_name())}, &stage, &progress, TestPaths::xsd());
852         bool ok = true;
853         for (auto i: notes) {
854                 if (find(ignore.begin(), ignore.end(), i.code()) == ignore.end()) {
855                         std::cout << "\t" << dcp::note_to_string(i) << "\n";
856                         ok = false;
857                 }
858         }
859         BOOST_CHECK(ok);
860 }
861