src/lib/image.cc

   1 /*
   2     Copyright (C) 2012 Carl Hetherington <cth@carlh.net>
   3
   4     This program is free software; you can redistribute it and/or modify
   5     it under the terms of the GNU General Public License as published by
   6     the Free Software Foundation; either version 2 of the License, or
   7     (at your option) any later version.
   8
   9     This program is distributed in the hope that it will be useful,
  10     but WITHOUT ANY WARRANTY; without even the implied warranty of
  11     MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  12     GNU General Public License for more details.
  13
  14     You should have received a copy of the GNU General Public License
  15     along with this program; if not, write to the Free Software
  16     Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
  17
  18 */
  19
  20 /** @file src/image.cc
  21  *  @brief A set of classes to describe video images.
  22  */
  23
  24 #include <sstream>
  25 #include <iomanip>
  26 #include <iostream>
  27 #include <sys/time.h>
  28 #include <boost/algorithm/string.hpp>
  29 #include <openjpeg.h>
  30 extern "C" {
  31 #include <libavcodec/avcodec.h>
  32 #include <libavformat/avformat.h>
  33 #include <libswscale/swscale.h>
  34 #include <libavfilter/avfiltergraph.h>
  35 #include <libpostproc/postprocess.h>
  36 #include <libavutil/pixfmt.h>
  37 }
  38 #include "image.h"
  39 #include "exceptions.h"
  40 #include "scaler.h"
  41
  42 using namespace std;
  43 using namespace boost;
  44
  45 /** @param n Component index.
  46  *  @return Number of lines in the image for the given component.
  47  */
  48 int
  49 Image::lines (int n) const
  50 {
  51         switch (_pixel_format) {
  52         case PIX_FMT_YUV420P:
  53                 if (n == 0) {
  54                         return size().height;
  55                 } else {
  56                         return size().height / 2;
  57                 }
  58                 break;
  59         case PIX_FMT_RGB24:
  60         case PIX_FMT_RGBA:
  61                 return size().height;
  62         default:
  63                 assert (false);
  64         }
  65
  66         return 0;
  67 }
  68
  69 /** @return Number of components */
  70 int
  71 Image::components () const
  72 {
  73         switch (_pixel_format) {
  74         case PIX_FMT_YUV420P:
  75                 return 3;
  76         case PIX_FMT_RGB24:
  77         case PIX_FMT_RGBA:
  78                 return 1;
  79         default:
  80                 assert (false);
  81         }
  82
  83         return 0;
  84 }
  85
  86 shared_ptr<Image>
  87 Image::scale (Size out_size, Scaler const * scaler) const
  88 {
  89         assert (scaler);
  90
  91         shared_ptr<SimpleImage> scaled (new SimpleImage (pixel_format(), out_size));
  92
  93         struct SwsContext* scale_context = sws_getContext (
  94                 size().width, size().height, pixel_format(),
  95                 out_size.width, out_size.height, pixel_format(),
  96                 scaler->ffmpeg_id (), 0, 0, 0
  97                 );
  98
  99         sws_scale (
 100                 scale_context,
 101                 data(), line_size(),
 102                 0, size().height,
 103                 scaled->data (), scaled->line_size ()
 104                 );
 105
 106         sws_freeContext (scale_context);
 107
 108         return scaled;
 109 }
 110
 111 /** Scale this image to a given size and convert it to RGB.
 112  *  @param out_size Output image size in pixels.
 113  *  @param scaler Scaler to use.
 114  */
 115 shared_ptr<RGBFrameImage>
 116 Image::scale_and_convert_to_rgb (Size out_size, int padding, Scaler const * scaler) const
 117 {
 118         assert (scaler);
 119
 120         Size content_size = out_size;
 121         content_size.width -= (padding * 2);
 122
 123         shared_ptr<RGBFrameImage> rgb (new RGBFrameImage (content_size));
 124
 125         struct SwsContext* scale_context = sws_getContext (
 126                 size().width, size().height, pixel_format(),
 127                 content_size.width, content_size.height, PIX_FMT_RGB24,
 128                 scaler->ffmpeg_id (), 0, 0, 0
 129                 );
 130
 131         /* Scale and convert to RGB from whatever its currently in (which may be RGB) */
 132         sws_scale (
 133                 scale_context,
 134                 data(), line_size(),
 135                 0, size().height,
 136                 rgb->data (), rgb->line_size ()
 137                 );
 138
 139         /* Put the image in the right place in a black frame if are padding; this is
 140            a bit grubby and expensive, but probably inconsequential in the great
 141            scheme of things.
 142         */
 143         if (padding > 0) {
 144                 shared_ptr<RGBFrameImage> padded_rgb (new RGBFrameImage (out_size));
 145                 padded_rgb->make_black ();
 146
 147                 /* XXX: we are cheating a bit here; we know the frame is RGB so we can
 148                    make assumptions about its composition.
 149                 */
 150                 uint8_t* p = padded_rgb->data()[0] + padding * 3;
 151                 uint8_t* q = rgb->data()[0];
 152                 for (int j = 0; j < rgb->lines(0); ++j) {
 153                         memcpy (p, q, rgb->line_size()[0]);
 154                         p += padded_rgb->line_size()[0];
 155                         q += rgb->line_size()[0];
 156                 }
 157
 158                 rgb = padded_rgb;
 159         }
 160
 161         sws_freeContext (scale_context);
 162
 163         return rgb;
 164 }
 165
 166 /** Run a FFmpeg post-process on this image and return the processed version.
 167  *  @param pp Flags for the required set of post processes.
 168  *  @return Post-processed image.
 169  */
 170 shared_ptr<SimpleImage>
 171 Image::post_process (string pp) const
 172 {
 173         shared_ptr<SimpleImage> out (new SimpleImage (PIX_FMT_YUV420P, size ()));
 174
 175         pp_mode* mode = pp_get_mode_by_name_and_quality (pp.c_str (), PP_QUALITY_MAX);
 176         pp_context* context = pp_get_context (size().width, size().height, PP_FORMAT_420 | PP_CPU_CAPS_MMX2);
 177
 178         pp_postprocess (
 179                 (const uint8_t **) data(), line_size(),
 180                 out->data(), out->line_size(),
 181                 size().width, size().height,
 182                 0, 0, mode, context, 0
 183                 );
 184
 185         pp_free_mode (mode);
 186         pp_free_context (context);
 187
 188         return out;
 189 }
 190
 191 void
 192 Image::make_black ()
 193 {
 194         switch (_pixel_format) {
 195         case PIX_FMT_YUV420P:
 196                 memset (data()[0], 0, lines(0) * line_size()[0]);
 197                 memset (data()[1], 0x80, lines(1) * line_size()[1]);
 198                 memset (data()[2], 0x80, lines(2) * line_size()[2]);
 199                 break;
 200
 201         case PIX_FMT_RGB24:
 202                 memset (data()[0], 0, lines(0) * line_size()[0]);
 203                 break;
 204
 205         default:
 206                 assert (false);
 207         }
 208 }
 209
 210 /** Construct a SimpleImage of a given size and format, allocating memory
 211  *  as required.
 212  *
 213  *  @param p Pixel format.
 214  *  @param s Size in pixels.
 215  */
 216 SimpleImage::SimpleImage (PixelFormat p, Size s)
 217         : Image (p)
 218         , _size (s)
 219 {
 220         _data = (uint8_t **) av_malloc (components() * sizeof (uint8_t *));
 221         _line_size = (int *) av_malloc (components() * sizeof (int));
 222
 223         switch (p) {
 224         case PIX_FMT_RGB24:
 225                 _line_size[0] = s.width * 3;
 226                 break;
 227         case PIX_FMT_RGBA:
 228                 _line_size[0] = s.width * 4;
 229                 break;
 230         case PIX_FMT_YUV420P:
 231                 _line_size[0] = s.width;
 232                 _line_size[1] = s.width / 2;
 233                 _line_size[2] = s.width / 2;
 234                 break;
 235         default:
 236                 assert (false);
 237         }
 238
 239         for (int i = 0; i < components(); ++i) {
 240                 _data[i] = (uint8_t *) av_malloc (_line_size[i] * lines (i));
 241         }
 242 }
 243
 244 /** Destroy a SimpleImage */
 245 SimpleImage::~SimpleImage ()
 246 {
 247         for (int i = 0; i < components(); ++i) {
 248                 av_free (_data[i]);
 249         }
 250
 251         av_free (_data);
 252         av_free (_line_size);
 253 }
 254
 255 uint8_t **
 256 SimpleImage::data () const
 257 {
 258         return _data;
 259 }
 260
 261 int *
 262 SimpleImage::line_size () const
 263 {
 264         return _line_size;
 265 }
 266
 267 Size
 268 SimpleImage::size () const
 269 {
 270         return _size;
 271 }
 272
 273
 274 FilterBufferImage::FilterBufferImage (PixelFormat p, AVFilterBufferRef* b)
 275         : Image (p)
 276         , _buffer (b)
 277 {
 278
 279 }
 280
 281 FilterBufferImage::~FilterBufferImage ()
 282 {
 283         avfilter_unref_buffer (_buffer);
 284 }
 285
 286 uint8_t **
 287 FilterBufferImage::data () const
 288 {
 289         return _buffer->data;
 290 }
 291
 292 int *
 293 FilterBufferImage::line_size () const
 294 {
 295         return _buffer->linesize;
 296 }
 297
 298 Size
 299 FilterBufferImage::size () const
 300 {
 301         return Size (_buffer->video->w, _buffer->video->h);
 302 }
 303
 304 /** XXX: this could be generalised to use any format, but I don't
 305  *  understand how avpicture_fill is supposed to be called with
 306  *  multi-planar images.
 307  */
 308 RGBFrameImage::RGBFrameImage (Size s)
 309         : Image (PIX_FMT_RGB24)
 310         , _size (s)
 311 {
 312         _frame = avcodec_alloc_frame ();
 313         if (_frame == 0) {
 314                 throw EncodeError ("could not allocate frame");
 315         }
 316
 317         _data = (uint8_t *) av_malloc (size().width * size().height * 3);
 318         avpicture_fill ((AVPicture *) _frame, _data, PIX_FMT_RGB24, size().width, size().height);
 319         _frame->width = size().width;
 320         _frame->height = size().height;
 321         _frame->format = PIX_FMT_RGB24;
 322 }
 323
 324 RGBFrameImage::~RGBFrameImage ()
 325 {
 326         av_free (_data);
 327         av_free (_frame);
 328 }
 329
 330 uint8_t **
 331 RGBFrameImage::data () const
 332 {
 333         return _frame->data;
 334 }
 335
 336 int *
 337 RGBFrameImage::line_size () const
 338 {
 339         return _frame->linesize;
 340 }
 341
 342 Size
 343 RGBFrameImage::size () const
 344 {
 345         return _size;
 346 }